山西省的东部和河北省的西部，则是著名的太行山脉，地形结构非常复杂，以山地和坡地为主。在古代战争时期，这样的地形非常有利于防御。但是进入经济发展的阶段以后，复杂的地形明显束缚了各地的经济发展。直到明清两朝，如何翻越山地运输商品，仍然是晋商们非常头疼的问题。
众所周知，我国行省制度起源于元朝，1368年，明朝建立以后，在元朝行省制度的基础上，进一步完善和调整。由于明朝拥有南北两个都城，出现了南北直隶与13个省的区划格局。北直隶大体上包括了北京市、天津市、河北省等地，南直隶主要包括了上海市、江苏省、安徽省等地。
17世纪中期，清朝逐步确立了自己的统治以后，北直隶更名为直隶省，南直隶更名为江南省。后来，进一步拆分为江苏省、安徽省。截至清朝乾隆皇帝在位时期，直隶省的区划格局基本稳定下来，合计下辖了12个府、6个直隶州。分别是：顺天府、保定府、天津府、正定府、大名府、顺德府、广平府、河间府、承德府、朝阳府、宣化府、永平府、遵化州、易州、冀州、赵州、深州、定州。
同一时期，山西省形成了9个府、10个直隶州的区划格局，分别是：太原府、平阳府、潞安府、汾州府、大同府、朔平府、宁武府、泽州府、蒲州府、辽州、沁州、平定州、忻州、代州、保德州、解州、绛州、吉州、隰州。请注意，山西省划分为19个州府，由此可见，山西省的地形复杂性。其中，山西省与直隶省的交界区域，区划并不清楚，属于非常模糊的情况。
1912年，统治了200多年的清朝灭亡以后，我国进入了军阀混战的局面。各地军阀相互进攻、争夺地盘，对山西、河北各地经济造成了很大的破坏。1928年，直隶省更名为河北省。不过，这一阶段，河北省与区划与当代河北省，存在很大的差异。在抗日战争时期，八路军部队开赴河北、山西等地，依靠太行山复杂地形，英勇抗击日本军队，组建了晋冀鲁豫、晋察冀等根据地。
一转眼到了建国初期，随着大规模战争的结束，我国进入了战后重建、恢复生产、发展建设的阶段。与此同时，我国陆续开始了156个重要项目。其中，相当一部分项目设立在山西省境内。随着局势的平稳，我国开始重新测绘河北省与山西省之间的省界问题。
一些村庄位于山西省境内，但群众基本上是河北籍。还有一些村庄位于太行山东侧，但隶属于山西省。50年代前期，河北省与山西省之间进行了区划变迁。1953年，山西省晋北专区繁峙县的4个乡村，划入了河北省定县专区的阜平县管理。1955年，山西省晋中专区左权县的垴沟乡10多个乡村，划入了河北省邯郸专区的武安县管理（武安县很有特点，1952年，从河南省划入了河北省）。
同一年夏天，山西省榆次专区平定县的23个乡村，划入了河北省石家庄专区的井陉县管理。50年代末期，河北省、山西省之间的省界，进行了第二轮的区划调整。1959年，山西省晋中专区平定县的4个乡村，划入了河北省石家庄专区的井陉县管理。截至这个阶段，河北省与山西省之间的省界格局，基本上稳定下来。
