创建年代未详，据寺内老人和有关记载称，由常志美先师创修于明万历年间，而常志美却生于万历三十八年(1610年)，显然不确。建筑史学家刘致平教授认为寺内建筑多为清前期风格。康熙间济宁伊斯兰教经堂教育兴盛，李延龄、常志美等著名经师讲经传教，形成“山东学派”，西大寺创于清初更为可信。全寺占地11亩，围以6米高的院墙，建筑布局对称，结构严谨。寺门中大两小，均前出后廊，朱红门扇，吊耳铜环，两边陪衬8间耳房，为掌教住室。南端5间罩子房，存殡葬用品。
院内南北讲堂各5楹，北讲堂后为15间北屋，供阿訇、海里几住宿。东屋3间为厨房。南北讲堂中间矗立两层六角尖顶邦克楼，25扇雕刻窗门式样别致，门上悬“天方正宗”匾，下层有“承先启后”匾及贴金阿文对联，起二门作用，两边各有1小门。穿邦克楼而过，正西为雄伟壮观的礼拜大殿，此殿为全国起脊式清真寺大殿中最大的1座，共98间，规模仅次于紫禁城太和殿。全殿分4部分，前为卷棚3大问;前殿5间11凛，单檐庑殿顶;中间7间11擦，重檐歇山顶，后殿面阔5间，重檐歇山顶，三面围廊，其地基、重檐均高于中殿，各殿以勾连搭相连，次递增高，主次分明。殿内12O根本柱支撑，雕梁画柱，富丽堂皇。殿周围有1米多高护墙环绕。殿东南为10间沐浴室，殿后为两层攒尖亭式望月楼。全寺建筑既有中国传统建筑特征，又有阿拉伯装饰风格，壮丽美观，肃穆大方。有大量中阿文匾联。
