从汉朝起西南夷少数民族地区就被纳入版图，不过当地各部族的酋长们还是拥有相当的自主权。汉代称位于巴蜀以南的云贵高原为南中：长期以来南中地区的各少数民族酋长对中央政府的号令一直时听时不听。三国时期蜀汉丞相诸葛亮采用攻心为上的策略与当地少数民族建立了友好关系。诸葛亮与云贵少数民族建立友好关系更多是依靠个人魅力，然而中原王朝对云贵地区的控制力并没在制度上得到强化。直到唐宋时期云贵地区依然维持着这种天高皇帝远的局面。
唐贞观十三年（公元639年）将隋代的郎州改名为播州，领辖今黔北的大片地域。播州之名历经五代、宋、元到明朝末叶存在了962年，所以人们常习惯用“播州”来代称古代的遵义。晚唐时期军阀杨端率军占据了播州，从此揭开了杨氏家族在播州地区长达700多年的割据统治。北宋时期播州土著杨文贵献地归附。播州归附宋朝后隶属于川峡四路之一的夔州路。元朝在地方行政管理方面首创行省制：在中央设中书省，在地方设行中书省（简称行省）分别进行管辖。
在元代山东、山西、河北和内蒙古等地由中书省直辖，而青藏高原属于宣政院辖地，除此之外在全国范围内一共设有岭北、辽阳、河南江北、陕西、四川、甘肃、云南、江浙、江西、湖广十个行省。元朝在今天的遵义设播州宣慰司进行管辖，但播州杨氏家族仍是当地的“土皇帝”。行省制这种新的地方管理制度在元代初建立时还不完善，所以各地界限也并不明确。明朝对元朝的行省制有所继承和改进：洪武五年(1372年)播州属四川行省，然而洪武十五年(1382年)播州改属贵州都司。
到了洪武二十七年(1394年)播州重新改属四川承宣布政使司。此后播州尽管名义上归属四川，但实际上四川官府管不着杨氏土司政权。永乐十一年（公元1413年）从原来的湖广行省、四川行省、云南行省各拆分出一些地区组成贵州承宣布政使司。至此贵州正式建省。1598年播州土司杨应龙公开作乱，万历皇帝于1600年派遣20多万人进攻播州杨应龙。在历时114天的战斗之后割据播州七百余年的杨氏土司政权被消灭。万历皇帝在灭掉播州杨氏土司政权后在当地改土归流。
