榆林市地形结构复杂，与内蒙古相邻。在我国古代历史上，中原王朝与北方草原政权，一直处于反复拉锯的状态。在中原王朝国力强盛的时候，肯定会进行大规模的北伐，例如汉朝、唐朝、明朝的一系列北伐。一旦中原王朝进入国力衰败期，北方草原骑兵立刻就会卷土重来。此时，中原王朝只能依托各地的复杂地形，阻击北方游牧骑兵南下。
例如在明朝统治时期，面对蒙古各部的不断反扑，明朝组建了著名的九边重镇。其中，榆林镇属于其中之一，属于标准的兵家必争之地。由于榆林各地的地形复杂，在近现代历史上，榆林各地陆续发现了储量丰富的矿产资源。例如榆林的神府煤田，属于世界7大煤田之一，煤炭的质量非常高。
众所周知，我国行省制度起源于元朝。历经元明清三朝几百年时间的调整和完善，进一步细化以后，形成了内陆各省的基本框架格局。截至清朝嘉庆皇帝在位时期，陕西省形成了7个府、5个直隶州的区划格局。分别是：西安府、同州府、凤翔府、榆林府、延安府、兴安府、汉中府、绥德州、商州、乾州、鄜州、邠州。当时，榆林市下辖的各个县，基本上隶属于榆林府和绥德州管理。
其中，榆林市下辖了1个散州、4个县，分别是：葭州、榆林县、神木县、府谷县、怀远县。1912年，统治了200多年的清朝灭亡以后，我国进入了军阀混战的复杂时期。由于军阀之间的相互进攻，对各地经济造成了很大的破坏。一转眼到了建国初期，随着大规模战争的基本结束，我国进入了战后重建、恢复生产、发展经济的时期。
在陕西省境内，组建了一系列的专区、地级市。其中，在陕北组建了榆林专区、绥德专区，绥德专区下辖了8个县，分别是：绥德县、米脂县、佳县、吴堡县、清涧县、子洲县、子长县、延川县。榆林专区下辖6个县，分别是：榆林县、定边县、靖边县、横山县、神木县、府谷县。1956年，在陕西省新一轮的区划变迁中，绥德专区被撤销。
原本下辖的8个县中，有6个县划入了榆林专区管理。另外2个县，划入了延安专区管理。此时，榆林专区下辖了12个县，区划框架已经基本形成。60年代末期，全国所有的专区更名为地区，榆林专区更名为榆林地区，管辖范围基本不变。70年代末期，我国经济进入了持续高速发展阶段。为了适应经济发展的需要，我国各省下辖的各个地区，开始陆续进行各方面的调整。
随着榆林地区的持续发展，1988年，榆林县被撤销，组建了榆林县级市，仍然隶属于榆林地区管理。榆林地区的发展非常快，迅速形成了规模。2000年，榆林地区被撤销，组建了榆林地级市。榆林县级市被撤销，组建了榆阳区。再加上外围的11个县，合计12个区县。
进入21世纪以后，随着榆林市的崛起，城区面积进一步扩大，城市人口进一步增加。2016年，榆林市下辖的横山县被撤销，组建了横山区。2017年，榆林市的神木县被撤销，组建了神木县级市。截止这个时候，榆林市2个区、1个县级市、9个县的区划格局，已经彻底形成。
