在我国历史上，怀远县较早的建置在宁夏的银川。银川也称凤凰城，相传古时候飞来一只凤凰，看到这里一片风光秀丽的江南景象，不忍离去竟化身为一座美丽的城市。
南北朝时期的北周，在此置怀远郡、怀远县，属灵州治（今宁夏灵武市）。唐高宗仪凤二年（公元677年），怀远县城遭黄河泛损，后迁到今银川市区。
到了宋开宝年间，怀远县改置为镇。西夏攻占怀远后，升为兴庆府。宋宝元元年（公元1038年），李元昊登上皇帝位，建大夏国，兴庆府为其首府，怀远地名从西夏消失。
历史上还有一个怀远县，现在是陕西省榆林市的横山区。这里位于陕西北部，毛乌素沙漠南缘，明长城脚下，无定河中游，处于内蒙古、陕西交界，古称塞北边陲。
