我国行省制度起源于元朝。历经元明清三朝的不断调整和完善以后，基本上形成了内陆各省的基本框架格局。在元朝统治时期，全国组建了10个行省，例如河南江北行省、湖广行省、辽阳行省等等，甘肃行省就是其中之一。
1368年，明朝建立以后，鉴于西北地区的实际情况。明朝撤销了甘肃省，把甘肃省各地，划入了陕西省管理。因此，明朝时期的陕西省，管理范围相当于当代的陕西、甘肃、宁夏等地。我国很多省份的基本区划，都是在明朝统治时期形成的，例如河南省、福建省、山东省等等。
17世纪中期，清朝消灭了各地的农民起义军和南明势力，基本上确立了自己的统治。在西北地区，陕西省的管理范围太大，并不利于管理。西北各地，以丘陵、高原和山地为主，管理难度确实大。1667年，清朝重新组建了甘肃省。截至清朝乾隆皇帝在位时期，随着西北准噶尔部被平定，甘肃省的区划格局已经基本形成。
当时，甘肃省下辖了8个府和4个直隶州，分别是：兰州府、巩昌府、平凉府、庆阳府、宁夏府、西宁府、凉州府、甘州府、安西州、泰州、泾州、阶州。兰州府下辖了2个散州、4个县，分别是：狄道州、河州、皋兰县、金县、渭源县、靖远县。
1912年，统治了200多年清朝灭亡以后，我国进入了军阀混战的复杂时期。由于军阀混战严重，对甘肃各地经济造成了很大的破坏。一转眼到了40年代末期，随着大规模战争的基本结束，我国进入了战后重建、恢复生产、发展经济的时期。50年代中期开始，我国陆续开始了156个重要项目。
其中，16个项目落户在甘肃省，这16个项目中，大部分项目又设立在兰州市，由此可见，兰州的重要性。在五六十年代，兰州市是我国重要的能源、原材料和重化工业基地，西部地区重要的交通枢纽、商贸中心和科研教育基地，黄河上游最大的经济中心城市。
50年代，鉴于兰州市的重要性，甘肃省组建了兰州地级市。不过，仅仅管理了主城区和皋兰县，管理范围比较有限。至于其他各个县，分别隶属于周边的定西专区、临夏专区等几个专区管理。1956年，兰州市的皋兰县划入了定西专区管理，仅仅管理了主城区。
1958年，在甘肃省新一轮的区划变迁中，永登县等地，划入了兰州市管理。1963年，白银地级市被撤销，划入了兰州市管理，组建了兰州市白银区。不过，白银区与兰州市主城区并不连接，属于兰州市的飞地。同一年，兰州市的永登县，又划入了武威专区管理。
