驻马店之名初见于明代；作为古镇，始建于明朝天顺年间（1457—1464年），隶属于当时的确山县下隗保；明宪宗成化十年（1474年），崇简王朱见泽就封汝宁，在此建庄并设驿站。由于这里自古交通便利，八方辐辏，官宦过往，商贾云集，驿差穿梭，其驻马投宿的客栈马店甚多，驻马店的称谓由此而来。
1974年10月，当时的驻马店镇力车厂发掘出明朝一古墓群，其中一墓砖上刻有“明弘治元年河南汝宁府确山县驻马店”字样，证明驻马店这一名称至迟是在明孝宗弘治元年（1488年）约定俗成或确定的。
到了清末，修建了平汉铁路，驻马店设火车站还是宿站，为当时的全国四大火车站。自此驻马店商铺云集，迅速发展起来，成为比周围县城都大很多的城市。
1965年，国务院正式宣布成立驻马店专区，专区驻地在县级驻马店镇。后经过多次行政区域改制，形成现在的驻马店地级市。
