南關清真大寺始建年代較為久遠。明朝末年，原寺地址在銀川南關外“拱北”亭，規模較小。1916年將寺址遷入南關內，建成一座具有古典風格的大寺。60年代寺院在動亂中被毀殆盡。1981年廣大穆斯林募資在今址重建。

    重建的南關清真大寺主殿建築高26米，坐西朝東，寺院面積約1萬平方米。主殿為圓形拱頂兩層，上層是大殿、陽台，方形大禮拜殿可容納1300多人做禮拜。下層有寬敞的沐浴室、小禮拜殿、女禮拜殿、阿拉伯語學校、阿訇臥室、辦公室、會客室等，皆以回廊相連。

    樓頂正中聳立著一大四小的綠色穹隆裝飾，大的居于中央，直徑9米，頂端高懸新月，小的直徑3米，分布在樓頂四角，遠眺，綠色圓頂閃閃發光，十分壯麗。主樓前有通向上層的階梯，兩側種植花圃。殿前中部為一座直徑15米的噴水池，四周花木扶疏，兩邊各建有30米高的“宣禮塔”。寺院內還種植了許多珍貴的松柏和各種樹木、花卉。整個建築布局嚴整，結構緊湊，規模宏偉。

    南關清真大寺以其別具一格、典雅莊重的特點，以及濃鬱的伊斯蘭建築藝術風格，成為自治區重點對外開放的宗教活動場所和旅游景觀之一。近年來，有90多個國家及地區的領導、使者、友人來訪。許多海外穆斯林亦到此參觀做禮拜。