秦朝置九江郡，不过当时的九江郡辖境在长江以北，和现在的九江完全不是一回事，而今九江大部分地区当时是归庐江郡管辖。汉朝设柴桑县，隶属豫章郡，就是《三国演义》周瑜练水军的地方。周瑜去世，诸葛亮还前往柴桑吊孝。
西晋置省级的江州，包括整个江西省、整个福建省，以及湖南的郴州。江州治所最初在豫章（南昌），当时东晋南渡，而九*在长江边上，便于治理，就迁到了九江。九江也升了级，设地级的寻阳郡。
东晋当时有两大最重要的州，西有荆州，东有扬州（国都建康所在），而九江作为江州治所，正好卡在两州之间。凭长江、扼鄱湖、背庐山，地势依旧险要，对朝廷来说，守住九江，荆州若有来犯之敌，也有个缓冲的空间。能当上江州刺史的，都是朝廷绝对信任的重臣，比如瘐亮、书圣王羲之、桓冲等人。
南朝时，九江由于地理位置重要，是江西全省的门户，成为各方势力争夺的焦点，就没平静过。隋灭陈后，江州依然存在。607年，江州换了一个名字，就是大名鼎鼎的九江郡，唐朝初年又恢复江州。白居易的《琵琶行》“寻阳江头夜送客”，到“江州司马青衫湿”，让世人牢牢记住了九江。另外，在《水浒传》里，郓城县押司宋江刺配江州，在浔阳楼写反诗被下狱，梁山好汉劫法场。江州，就是九江。
,
