1279年，元朝统一全国以后，疆域面积空前辽阔。依靠唐宋两朝的州县两级区划，根据无法有效管理各个地区。在这样的情况下，元朝借鉴了金国行尚书台的经验，设立了行省制度。把全国划分为10个行省，例如四川行省、湖广行省、江浙行省等等。其中，湖广行省的管辖范围很大，包括了当代的湖北大部分地区、湖南全境、广西大部分地区、贵州部分地区、广东西部地区。
1368年，明朝建立以后，沿用了元朝行省区划。由于明朝下辖了两个都城，出现了南北直隶与13个省的区划。随着广西省、贵州省、广东省等省份的建立。湖广省的粮食产量很高，一旦其他地区出现灾荒，朝廷的第一反应就是从湖广等地调运粮食。
17世纪中期，清朝逐步消灭了各地的农民起义军、南明各个政权，确立了自己的统治。清朝沿用了明朝的行省区划，并且进一步调整，把全国划分为18个省，被称为“汉地18省”湖广省面积辽阔、人口众多，再加上地形结构复杂、水网密布，管理难度非常大。康熙皇帝在位的第6年，清朝撤销了湖广省，组建了湖北省、湖南省。
湖北省的省会在武昌府，湖南省的省会在长沙府。湖南省组建以后，区划开始反复调整。最终下辖了9个府、4个直隶州，分别是：长沙府、岳州府、宝庆府、衡州府、常德府、辰州府、沅州府、永州府、永顺府、澧州、靖州、桂阳州、郴州。其中，永州府下辖了零陵县、东安县、祁阳县、新田县、宁远县、永明县、江华县、道州等地。
1912年，清朝灭亡以后，我国进入了军阀混战的阶段。湖南省地理位置非常好，各路军阀反复争夺，对各地经济造成了很大的破坏。与此同时，湖南省的部分地区，滋生了大量的土匪，残酷压榨各地群众。尤其是湖南西部，急需肃清土匪。一转眼到了建国初期，随着大规模战争的结束，我国各个地区基本上稳定下来，进入了休养生息、战后重建、发展经济的阶段。
在湖南省境内，设立了一系列的专区，例如零陵专区、常德专区、岳阳专区等地。其中，零陵专区下辖了8个县，分别是：零陵县、新田县、宁远县、江华县、永明县、道县、东安县、祁阳县。1952年，湖南省组建了湘南行政区，零陵专区、衡阳专区等几个专区被撤销，下辖的各个县，划入了湘南行政区管理。
湘南行政区下辖了大量的县，由于下辖的面积太大，在五六十年代，我国的交通、通讯条件有限，存在很大的管理难度。1954年，湘南行政区被撤销，重新组建了衡阳专区、郴县专区。零陵专区并没有重新组建，下辖的各个县，划入周边几个专区管理。由于几个专区下辖的县太多，1962年，湖南省重新组建了零陵专区。
这一阶段，零陵专区下辖了零陵县、江永县、道县、宁远县、东安县、蓝山县、新田县、江华县、冷水滩县级市等地。60年代末期，全国所有的专区更名为地区以后，零陵专区更名为零陵地区。70年代末期，我国经济进入了快速发展阶段。出于经济发展的需要，我国各省下辖的各个地区，陆续开始了区划调整。1984年，零陵地区的零陵县被撤销，设立了永州县级市。
