唐朝的15道和宋朝的23路问题很多，最后，元朝在宋朝23路的经验上，结合了金国行尚书台的成熟框架，进而推出了著名的行省制度。元朝把全国划分为10个行省，例如甘肃行省、岭北行省、辽阳行省等等。鉴于河北各地的重要性，河北隶属于中书行省直接管理。当时，每个省下辖了各个路，每个路下辖了各个州府，每个州府下辖了各个县，相当于4级区划。
当然，有的地区，出现了路和州府同级并立的情况。元朝虽然设立了行省制度，但各方面都不完善。首先，各地的区划设计不合理，管理难度非常大。第二，地方上的机构太多，相互重叠严重。到了元朝统治的末期，行省制度几乎彻底崩溃。1368年，朱元璋建立明朝以后，根据明朝的需要，在元朝行省的框架下，进一步调整了各地的区划。
在明朝永乐皇帝朱棣在位时期，随着明朝的迁都，进一步形成了南北直隶与13个省的区划格局。与此同时，为了抵御北元政权的反扑，明朝从东北到西北设立了九边重镇。张家口地区的地质结构复杂，易守难攻，属于拱卫明朝华北地区的重要屏障。张家口的由来很有意思，明朝嘉靖皇帝在位时候，张家口附近的守将张珍，为了方便周围群众往来，在城墙上新开了一个城门。
由于是张珍开设，因为被称为张家口。其实，我国很多省份的基本区划，都是在明朝统治时期形成的，例如江西省、广东省、山东省等等。17世纪中期，清朝逐步确立了自己的统治以后，根据清朝自己的实际问题进一步完善了行省区划。最终，形成了大清内陆18个省的区划。当时，北直隶更名为直隶省。至于张家口下辖的各个区县，部分隶属于口外三厅，部分隶属于顺天府管理。
1912年，清朝灭亡以后，我国进入了军阀混战的局面。1928年，直隶省更名为河北省。同一年，为了加强对塞外地区的管理，我国设立了察哈尔省、绥远省、热河省等省份。其中，察哈尔省的省会就在张家口市。一转眼到了建国初期，随着局势的稳定，我国进入了战后重建、恢复生产、发展经济的阶段。与此同时，一系列项目在河北各地设立。
当时，察哈尔省设立了察南专区、察北专区等几个专区。随着外部环境的变化，这几个省份的存在作用越来越低。1952年，察哈尔省被撤销，察南专区、察北专区等地，划入了河北省管理，并且组成了张家口专区。与此同时，鉴于张家口的重要性，设立了张家口地级市。不过，张家口市的管辖范围并不大，只有市区和郊区，外围几个县，隶属于张家口专区管理。
张家口市与张家口专区属于并立关系，在五六十年代，这样的情况是比较普遍的，例如辽宁省的沈阳市与沈阳专区等等。在50年代后期的区划调整中，张家口专区被撤销，并入了张家口市管理。不过，这样的情况时间并不长。1961年，张家口专区重新设立，张家口市被降级为县级市，隶属于张家口专区管理。1962年，张家口专区的商都县，划入了内蒙古管理。
60年代末期，全国所有的专区更名为地区以后，张家口专区更名为张家口地区，区划不变。80年代初期，我国经济持续发展以后，为了适应时代，很多省份下辖的地区，被调整为地级市。还有一些县级市，升级为地级市。1983年，张家口市被再次设立为地级市，脱离了张家口地区。这次的情况持续了10年时间，1993年，张家口地区被撤销，并入了张家口市。
