圣·索菲亚教堂始建于清光绪三十三年（1907年）三月，在中东铁路建成后不久，随着沙皇俄军的进驻，在哈尔滨兆麟街上建造了高大的索菲亚木制教堂，最初为沙俄东西伯利亚第四步兵师修建中东铁路时修建的一座随军教堂。同年，俄国茶商伊·费·赤斯嘉科夫出资，以随军教堂为基础，重新修建了一座全木结构教堂。1911年，木墙外部砌了一层砖墙，形成了砖木结构式教堂。
1923年9月27日，圣·索菲亚教堂第二次重建，历时9年，于1932年11月25日落成，成为远东地区最大的东正教堂。索菲亚教堂是俄国建筑师科亚西科夫设计，富丽堂皇，典雅超俗，宏伟壮观，通高53.25米，建筑面积721平方米，可容纳2000人。正门顶部为钟楼，7座铜铸制的乐钟恰好是7个音符，要由训练有素的敲钟人手脚并用才能敲打出抑扬顿挫的钟声。教堂建筑平面呈希腊十字方式布置，既受拜占庭建筑风格影响，主穹顶、钟楼又有俄罗斯传统的“帐篷顶”、“洋葱头”造型。
1986年，哈尔滨市人民政府将其列为一类保护建筑。1996年11月，被列为第四批全国重点文物保护单位。1997年6月2日至9月2日，哈尔滨市人民政府对教堂按原设计进行了全面整修，扩建索菲亚广场7000平方米，辟为哈尔滨市建筑艺术馆，以宣传、弘扬哈尔滨独特的建筑文化。
2000年，哈尔滨市人民政府组织扩建了哈尔滨市建筑艺术广场、中心休闲广场及城市建设规划展示馆建设工程。并于当年10月1日竣工投入使用。扩建后的建筑艺术广场面积由6000平方米增至10000平方米，中心广场面积36154平方米。
