公元1427年（明宣德二年）扩建，公元1442年（明正统七年）整修。公元1474（明成化十年），都指挥詹升题请名号，奉敕赐名“礼拜寺”，故有“明寺”之称。公元1696年（清康熙三十五年）又按原样进行大规模修葺，总共经历8次修缮扩建。
中华人民共和国成立后，先后于1955年和1979年两次拨款进行全面修缮。中外穆斯林经常到此进行宗教活动和参观访问。北京市宣武区伊斯兰教协会和北京穆斯林建设牛街基金会均设在寺内。1988年列为国家重点文物保护单位。
牛街清真寺坐东朝西，面积6000多平方米，建筑面积3000多平方米。
牛街清真寺建筑集中对称，其格局采用汉族宫殿式的木结构形式为主，其细部带有浓厚的伊斯兰教阿拉伯建筑的装饰风格。 [1] [3] 精美的雕梁画栋，别具风格的殿堂屋顶，随处可见的《古兰经》文和赞美穆罕默德词句的细部装饰等，处处呈现出汉族古典宫殿式建筑与阿拉伯式清真寺的完美结合。
寺内还藏有《古兰经》阿波文对照手抄本、木刻和明清香炉等珍贵文物。
中国清真寺数量
据中国社会科学院民族学与人类学研究所研究员马忠宁（音译）介绍，目前中国有3万座清真寺。
中国的穆斯林社区
回族是中国最大的穆斯林群体，其次是维吾尔族。这两个群体占中国穆斯林人口的 90%。
中国的穆斯林人口包括哈萨克、吉尔吉斯、乌兹别克、塔吉克、东乡、萨拉和保安等民族。
估计有 2500 万穆斯林生活在中国各地。中国穆斯林主要生活在新疆、甘肃、青海、云南和宁夏。
新疆地区是中国穆斯林人口最多的地区，该地区约有50%的人口是穆斯林。
