من أشهر وأعرق المساجد في تاريخ الإسلام، ويرجع تأسيسه إلى عهد الخليفة الثاني عمر بن الخطاب.
يقع الجامع وسط مدينة إب القديمة، وقد توالت عليه العديد من الإضافات والتجديدات خلال العصور الإسلامية المتعاقبة.
يحتوي على ثلاثة مداخل في الضلع الغربي، مدخل في الناحية الجنوبية ومدخلين في الناحية الشمالية تتقدمهما ظلة مغطاة بثلاث قباب متجاورة.
يؤدي المدخل الجنوبي إلى ردهة ومنها إلى الرواق الغربي بالمسجد، وهو رواق صغير يتكون من بلاطتين بواسطة بائكتين، ويقابل هذا الرواق ناحيتي الشمال والجنوب أكثر من الرواق الغربي، أما الرواق الجنوبي فيتكون من بلاطة واحدة. ومعظم عقود هذه الأروقة على شكل مدبب وواسع.
تقع مئذنة الجامع في الناحية الجنوبية الشرقية على شكل بدن مثمن مرتفع، يرتكز على قاعدة حجرية مربعة، ويعلو البدن المثمن شرفة مزخرفة من الخارج بأشكال الدلايات، ويتوجها من أعلى طاقية مقببة من جزأين ذات إطار دائري. والبدن الرئيسي المثمن مزخرف بزخارف هندسية الشكل.
أما رواق القبلة فيتضح من المسقط الأفقي بأنه معقد إلى حد كبير، يميز هذا الرواق تغطية البلاطتين الموازيتين لجدار القبلة بقباب صغيرة متجاورة، عددها 12 قبة تتوسطها قبة عالية. وتغطي المساحة التي تتقدم المحراب مناطق انتقال القباب على شكل أربع حنايا ركنية مزدانة بالزخارف الجصية الملونة، وكذلك باطن القبة.
محراب المسجد يتوسط هذا الجدار وسط كتلة كبيرة من الجص مستطيلة الشكل، ويعلو المحراب عقدان، الأول نصف دائري محمول على عقدين صغيرين، يعلوه عقد آخر مدبب ذو إطار مفصص، ويرتكز على عمودين أكثر ارتفاعاً من العمودين السابقين. ويقع على يسار المحراب محراب آخر حديث، إلى الشرق منه يوجد منبر قديم من الخشب وبعض حشواته من خشب الخرط المفرغ. وبين حشوات المنبر بعض الحشوات المجمعة، وبه بعض الكتابات الأثرية.
بقية امتداد الرواق في اتجاه الناحية الجنوبية عبارة عن ست بلاطات، يتوسطها مجاز قاطع يتعامد على مساحة القبة التي تتقدم المحراب.