据记载，明初就曾有僧人在此修行。嘉靖年间，扩建寺院，后倒塌。万历年间，铸万佛铜像立于大殿之前，金光闪闪光彩夺目，民间称为“金光塔”。
清顺治年间，组织扩建。清康熙年间，所有的殿、阁、楼 、塔全部毁于火灾，后又经过多次重建和重修，但规模都没有恢复到鼎盛时期。
现如今的迦叶殿是1992年重建的，此次重建后迦叶殿大变样，规模也扩大很多，殿内建筑面积高达六千平方米。
在陡峭的天柱峰上建起建筑面积那么大的寺院，实属难得！
迦叶殿为三重大殿，其中，第三重为迦叶殿，放置了新雕刻的香樟木迦叶守衣入定像，它还是鸡足山上最大的香樟木雕像。
