众所周知，我国行省制度起源于元朝。历经元明清三朝几百年的调整和完善，进行各方面的细化，逐步形成了内陆各省的基本框架格局。截至清朝乾隆皇帝在位时期，河南省的基本大体框架，已经形成，下辖了9个府、4个直隶州，分别是：开封府、河南府、彰德府、怀庆府、卫辉府、归德府、南阳府、汝宁府、陈州府、许州、陕州、汝州、光州。
当时，汝州属于直隶州，下辖了4个县，分别是：伊阳县、鲁山县、宝丰县、郏县，基本上就是平顶山的主体部分。1912年，统治了200多年的清朝灭亡以后，我国进入了军阀混战的复杂时期。河南省地理位置非常重要，各地军阀相互争夺，对河南各地的经济造成了很大的破坏。河南各地先后遭受了旱灾、黄河改道等灾害，百姓们的日子很苦。
一转眼到了建国初期，随着大规模战争的基本结束，我国进入了战后重建、发展经济的新时期。进入50年代以后，我国陆续开始了156个重要项目，奠定了工业化的基础。在河南省内，陆续组建了各个地级市和专区。起初，平顶山市下辖的大部分区域，基本上都隶属于许昌专区管理。在鼎盛时期，许昌专区管理了20多个县、县级市。
50年代前期，平顶山附近，陆续发现了储量丰富的煤炭资源。在发展经济的过程中，需要钢铁、煤炭、石油、橡胶等各方面的资源。为了全力开采平顶山的煤炭资源，1955年，河南省组建了平顶山煤矿筹备处。1956年，进一步提升为平顶山矿区。平顶山矿区直接隶属于河南省管理，不隶属于许昌专区管理。
不过，平顶山矿区的管辖范围有限，仅仅管理了矿区和生活区，至于周边的乡镇，仍然隶属于许昌专区管理。1958年，在河南省新一轮的区划调整中，平顶山矿区被更名为平顶山地级市，与周边各个专区平级。同时，为了扩大平顶山地级市的管辖范围，1960年，许昌专区的宝丰县被撤销，宝丰县下辖的各个乡镇，划入了平顶山地级市管理。
1961年，宝丰县重新组建，重新划入了许昌专区管理。平顶山地级市被降级为县级市，划入了许昌专区管理。不过，平顶山的资源非常重要，属于河南省的资源重镇。1964年，平顶山县级市被提升为平顶山特区，再次脱离许昌专区管理。60年代末期，全国所有的专区调整为地区以后，河南省下辖的各个专区，陆续更名为地区。
1970年，平顶山特区再次更名为平顶山地级市。1977年，许昌地区的舞阳工区办事处被撤销，组建了舞钢区，划入了平顶山市管理。1979年，舞钢区再次划入了许昌地区管理。70年代末期，我国经济进入了持续高速发展阶段。为了适应经济发展的需要，各省下辖的各个地区，陆续进行了各方面的区划调整。
1982年，许昌地区的舞钢区，第二次划入了平顶山市管理。1983年，为了扩大平顶山市的管辖范围，许昌地区的宝丰县、鲁山县、叶县等3个县，划入了平顶山市管理。1986年，许昌地区被撤销，组建了许昌地级市、漯河地级市。在这一过程中，原许昌地区的襄城县和郏县，划入了平顶山市管理。同一年，洛阳市的临汝县，划入了平顶山市管理。
