مسجد جامع قدیم در قرن ششم هجری قمری و به دستور گرشاسب از نوادگان علاء الدوله کالنجار ساخته شد و بنای اصلی مسجد کنونی از آثار سید رکن الدین محمد قاضی است.

این مسجد بزرگ با 2 مناره بلند و منحصر به فرد دارد، از امتیازات هنری و معماری این مسجد می‌توان به قدرت و استواری کاشیکاری‌های نفیس و زیبای لاجوردی آن اشاره کرد.

در زیر گنبد این مسجد بخشی قرار دارد که به آن تابستانه می‌گویند، این سردخانه دارای پنجره های آجری مشبک و در داخل این تابستانه محرابی قرار دارد که دارای کاشیکاری زیبایی است.

نکته جالب توجه اینکه مردم معتقدند خاک کاشی و خاک همه مصالح آن از کربلاست و برای ساختن آن به جای استفاده از آب از گلاب استفاده شده است.
شبستان مسجد دارای 2 قسمت است که یکی در زمستان و دیگری در بهار و پاییز مورد استفاده قرار می گیرد. درهای مشبک شبستان پاییزی با شیشه های رنگی مزین شده است.

سردر رفیع و زیبای آن با 24 متر ارتفاع از دیگر ویژگی منحصر به فرد مسجد است. سبک معماری در ساخت این ایوان نظر هر بیننده ای را به خود جلب می کند و وجود طاق نماهای کم عرض در 2 طرف طاق یا دهانه قوسی و وجود 2 مناره زیبا بر بالای ایوان از دیگر ویژگی‌های مسجد جامع کبیر یزد است.

اصیل‌ترین بخش‌های هنر معماری بی نظیر ایرانی در گچکاری‌، شبستان، صحن، گنبد، کاشی کاری و مناره های برافراشته آن جلوه گر است. زیباترین بخش این بنا را می توان مجموعه ایوان و گنبدخانه و فضای پیرامون آن نام برد.

نمای ایوان بلند با مجموعه‌ای از زیباترین تزئینات کاشی معرق و نقوش اسلیمی و گیاهی همچنین گره چینی پوشانده شده است.

این تزئینات با آجرهای ضربی و نقوش معلقی و کتیبه های کاشی معرق و کوفی بنایی، مجموعه ای بدیع و خیره کننده آفریده که تحسین هر بیننده ای را برمی انگیزد.

محراب اصلی یا محراب واقع در گنبدخانه،‌ مزین به انواع کاشی معرق و کتیبه و آجر ضربی است و بر 2 کاشی ستاره ای شکل منصوب در آن، نام استادکار و تاریخ ساخت محراب نقش بسته است.

مسجد جامع یزد به شیوه یک ایوان در دل کویر و در طی حدود 100 سال و در سه دوره ساخته شده است. پایه‌های اصلی مسجد را ساسانیان و بنای فعلی مسجد، از لحاظ شیوه معماری متعلق به دو دوره موسوم به آذری دانسته‌اند.

بنای گنبد خانه متعلق به دوره ایلخانی و سر در رفیع مسجد را متعلق به زمان شاهرخ و دوره تیموری دانسته‌اند. این بنا از لحاظ خوابیدگی گنبد، سردر رفیع و بلند و همچنین کاشیکاری زیبا و منحصربفرد، شهرت دارد.

گنبد زیبای مسجد از نوع دو پوستهِ پیوسته بوده و بر آن نقش گل صابونکی معقلی با ظرافت اجرا شده است و بر ساقه آن کلمه "الملک لله" به خط کوفی تکرار شده است.

دو مناره مسجد که ارتقاع تقریبی آن از کف تا نوک به بیش از 52 متر می رسد، دارای قطری در حدود هشت متر است که در دوره صفوی به بنا افزوده شده اما در سال 1313 هجری شمسی فرو ریخت و دوباره تجدید بنا شد.

بلندای این مناره ها و اینکه کاشی کاری منحصر به فردی حتی در اوج مناره ها انجام شده، تعجب همگان را بر می انگیزد زیرا این مناره‌ها هرچه به سمت بالا رفته باریکتر شده و تنها یکی از آنها نیز دارای پلکان است از اینرو ظرافت کاشی کاری در این ارتفاع به واقع قابل تحسین است.

مسجد جامع یزد در سال 1313 توسط وزارت فرهنگ و هنر با شماره 206 در فهرست آثار ملی ایران به ثبت رسید.