据史料记载，龙泉寺始建初为道教昊天祠，五百多年后毁于金元战火，直到明洪武二十四年（1391年）重建后，名字也改成了“太山寺”。后当地天旱无雨，地方官和百姓们到此求雨，发现汩汩而流的泉水，认为是求雨有应，龙王赐泉，于是冠以太山寺“龙泉”之雅号，在泉水上修建龙王庙，并雕石龙，令泉从龙嘴中出。明嘉靖《太原县志》中有“太山有龙池”记载，为太山寺别名由来之史证。
太山龙泉寺，顺山势而建，高低错落有致，殿堂楼阁，自成格局。古语道：三面环山南留口，神仙也想往里走。龙泉寺就坐落在这样一处自然天成，三面环山，南面带水的风水宝地，在峰峦环抱松柏掩映之中。太山龙泉寺繁盛时期共分为上、中、下三寺。现留存的下寺部分建筑多为明清时代建筑。下寺院建筑格局规整，牌楼、山门、戏台、中门、钟鼓楼、三大士殿、佛祖阁、厢房、耳房、观音堂、文殊殿、普贤殿沿中轴线对称排列。还有迎客松、唐碑、唐槐、唐华严经幢、龙松、莲花宝洞、皇姑洞、龙神祠、龙泉、龙潭、龙柏、老虎洞、塔林、象柏、李存孝墓（市保）等。2014年启动太山龙泉寺修复工程，2019年正式完工。复建了唐代舍利塔、东坪新寺（也叫上院）和望都阁等项目。东坪新寺建筑格局宏大规整，中轴线上有天王殿、大雄宝殿、藏经阁，东西两侧有观音殿和地藏殿，南北寮房。西坪塔林在下院西北各200米的僻幽之处，现存有龙泉寺历代高僧主持灵塔10座。其造型古朴，雕工细腻，时代特征明晰。寺内外现存古树20余株，据专家推测，这些古树都有几百年以上的树龄。进入太山龙泉寺大小景点约40余处下面一一介绍。
太山牌楼是太山景区的标志建筑，跨过沙河桥，太山脚下矗立着一座气势恢宏的双排柱重檐歇山顶牌楼。坊额书“古刹龙泉”，通过此牌楼便进入太山景区。
