东晋十六国时期，当时的后赵石虎与燕国慕容皝的一场大战，也发生在这里。擅长用兵的慕容皝，出其不意，取道居庸关，直取后赵不设防备、兵力空虚的蓟城、高阳等地，打了石虎一个措手不及。再往后，当慕容垂恢复燕国大业，也是派一路兵马，出居庸关，直取鲜卑大本营龙城，奠定自己的根基。十余年后风云大变，燕国由盛转衰，北魏拓跋大举东进，一样是走居庸这条道，夺取幽州地区。
北宋宣和年间，女真迅速崛起，风云直下燕云，当时的辽国也是拼死守居庸。结果仗打到一半，居庸关的一处山崖突然崩塌，将辽国最后的忠义之士压死大半，于是辽军崩溃，金国迅速拿下燕京。到了蒙古打金国的时候，守居庸的就成了金兵。在草原上称雄的苍狼蒙古人同样被拦在此处，一直要等到另一路蒙古兵绕道紫荆关，打下涿、易二州，再回转从南边攻打居庸关，首尾夹击之下，才把这座雄关拿下。
从汉到元代以前，居庸关这里一共打了十六次比较重大的仗，攻击一方的获胜比例仅有十分之三，可见居庸关地势险要，易守难攻，绝非虚语。正是因为这个缘故，大明的朱棣，一旦把都城迁到北京，他就把视线投向了居庸，他说：“居庸关路窄而险，北平之禁喉也。百人守之，万夫莫窥，必据此乃可无北顾。”这话是千真万确的，明朝还有一句话，叫做：“居庸一倾。则自关以南，皆战场矣。”也就是只要居庸关一破，北方的敌人就能毫无顾虑，长驱直入中原。
既然如此重要，大明朝又是如何设置这道“天下第一雄关”的呢？
首先是分南北两道关口，关城就设在南口北边的峡谷中。城门也只有南北两道，瓮城在南边，两旁高山耸立，一条咽喉通道，在重因叠蟑、林木葱郁间，直通天堑。因为险，这里便是军事第一要地。也因为险，在太平时节，这里后来又成为所谓燕京八景之一，称为“居庸叠翠”。据说在女真金国，已经这么玩了。而这里的景色，自然是因为山势雄奇、翠峰重叠，以及清流萦绕、山鸟争鸣了，地势险要，百姓在此搭屋居住当然是不可能，成为生态胜地便是自然之事。
当然大明更要在这天然险要地形之上，更加一份安全锁定。那就是在景泰年间，将关城扩大加固，设水陆两道门。如今的居庸关南北关城券门上，还有匾额，说是明景泰十年修建之际留下的真迹。必须说，明朝真是用心了。从居庸外线的岔道城、八达岭开始，到上关城、中关城，最后是南口，足足五道防线。南边的瓮城是一座马蹄形的堡垒，向上有重檐歇山城楼一座，弧形瓮城城台上设有炮台，外墙有垛口，内侧墙低矮无垛口，用意就在作战时将敌人诱入瓮城，主城关闭阻其入城，再放瓮城闸门，敌人就被困在瓮城里，只能束手就擒，所谓瓮中捉鳖，于是便叫做瓮城。而为了保证胜利，瓮城之中还造了一座关王庙，大概是希望武圣人关云长能庇佑大明。
而那个时代最重要的战马，也在此获得独特的地位。即所谓马神庙，从隋、唐、宋、辽，历代都有。居庸关这边当然也不会少，初建于明朝弘治年间，到了大清国的乾隆年间又大规模重修。
明朝那会，时代已经不同了。据守在此的军队，前所未有地除刀枪弓箭和盔甲之外，增设大量火器。始建于明正统十四年的神机库，便是因为贮放铳、炮等各式火器，故得此名。史册上所谓佛郎机、红夷大炮，都在这里有过大显神威的时刻。最牛逼的一门红夷大炮，重三千斤，发之声震数十里，射程据说超过五百米。
这一点绝非虚语，后人在修复居庸关北关城时，就发掘出了23枚土石炮弹和6枚铁炮弹，最大直径达到了15厘米。
