一个问题出现了，河南省17个地级市的区划结构，如何一步步形成的呢？众所周知，我国行省制度起源于元朝。历经元明清三朝的不断演变和调整以后，逐步形成了现在的区划格局。截至清朝乾隆皇帝在位时期，河南省的区划结构基本形成。总计下辖了9个府、5个直隶州，分别是：开封府、归德府、彰德府、河南府、南阳府、汝宁府、卫辉府、陈州府、怀庆府、许州、陕州、光州、郑州。
1912年，统治了200多年的清朝灭亡，我国进入了军阀混战的复杂阶段。由于军阀混战严重，对河南各地经济造成了极大的破坏。同时，河南各地先后遭受了旱灾、水灾、蝗灾等自然灾害，再加上部分地区的土匪滋扰，百姓们的日子很苦，急需进入休养生息的阶段。一转眼到了建国初期，随着大规模战争的结束，我国进入了战后重建、恢复生产、发展经济的阶段。
出于实际管理的需要，当时，河南省设立了10个专区，分别是：郑州专区、陈留专区、商丘专区、洛阳专区、陕州专区、淮阳专区、潢川专区、南阳专区、许昌专区、信阳专区。也许大家会问，位于黄河以北的区域呢？在建国初期，出于治理黄河的迫切需要，河南省位于黄河以外的安阳、濮阳、新乡、焦作等地，划入了平原省管理，属于平原省的重要组成部分。
1952年，历经3年多时间的艰苦奋斗，治理黄河的工作基本完成。这一年，平原省被撤销，原本下辖的濮阳专区、新乡专区、安阳专区，划入了河南省管理。不过，同一年，河南省的陈留专区、潢川专区、淮阳专区被撤销，因此，河南省仍然是10个专区的区划结构。陈留专区被撤销以后，下辖各个县划入了郑州专区管理。
潢川专区被撤销以后，下辖各个县，划入了信阳专区管理。淮阳专区被撤销以后，下辖各个县，分别划入了许昌专区和商丘专区管理。1953年，陕州专区被撤销，下辖的各个县，划入了洛阳专区管理，河南省下辖的专区数量，调整为9个。除了9个专区之外，鉴于管理大城市的需要，郑州市、洛阳市、开封市等几个城市，被确立为地级市。
出现了地级市与专区并立的情况，不过，当年的地级市仅仅管理主城区，并不管理周边的县。我们以郑州市为例，郑州市西部的西流湖，西流湖以东属于郑州市管理，西流湖以西属于开封专区管理（1954年，郑州专区更名为开封专区）。1954年，濮阳专区被撤销，下辖的各个县，划入了新乡专区、安阳专区，河南省下辖的专区数量，调整为8个。
50年代开始，我国陆续开展了156个重要项目。其中，一部分项目落户在河南省各地。各个项目对石油、钢铁、煤炭、水泥等各种资源的需求量大大增加，在这样的大环境下，50年代中期开始，河南省陆续设立了安阳地级市、焦作地级市、新乡地级市、三门峡地级市、平顶山地级市、鹤壁地级市等6个地级市。截至1958年，河南省出现了9个地级市与8个专区并立的格局。
虽然形成了17个地级区划，不过，与当代的17个地级市，完全是两回事。1958年，河南省的区划格局进行了大规模调整。全省下辖的9个地级市中，除了省会郑州市以外，其余8个地级市被全部降级为县级市（新乡、安阳、开封、鹤壁、焦作、三门峡、洛阳、平顶山）。同一年，商丘专区、安阳专区被撤销，下辖的各个县分别划入了开封专区、新乡专区管理。
