洛阳白马寺建筑规模雄伟,现在的布局为明嘉靖时重修,主要建筑有寺院的山门、殿阁、齐云塔院。其中殿阁仅存天王殿、大佛殿、大雄殿、接引殿四座大殿。
山门东西两侧有迦叶摩腾和竺法兰二僧墓。后院毗卢阁内的断文碑,刻有洛阳白马寺的历史,是寺内重要古迹,所传唐经幢、元碑刻都有较高的艺术价值。寺内原来还出土了玉石雕刻的弥勒佛像,已被盗往美国。各殿内的佛像大多是元代用干漆制成的,特别是大雄宝殿的佛像,是洛阳现存最好的塑像。
1990年后,在原有建筑的基础上,洛阳白马寺增加了钟鼓楼、泰式佛殿、卧玉佛殿和齐云塔院内的客堂、禅房等。目前占地约3.4万平方米,有大小建筑百余间。寺院坐北朝南,为中轴对称格局,布局规整,主次分明。
寺内主要建筑都分布在中轴线上,自南向北依次是山门、天王殿、大佛殿、大雄殿、接引殿和清凉台,两侧还有钟鼓楼、门堂、云水堂、客堂、斋堂、祖堂、禅堂、方丈院等附属建筑。