马谡在静宁一带的部将黄袭，在安定郡驻守的马忠，得知消息后，立刻率领所有军马，全力来援王平。在上邽一带的魏延得知消息后，立即率领所有的1.5万军队从上邽撤走，北上增援王平，并命令在列柳城的高翔部死守列柳城，牵制郭淮军队，使郭淮部不能分兵追击。
诸葛亮也得知了马谡在街亭失败的消息，大惊失色，本就谨慎小心的他，害怕性命不保，不去想着如何再去挽回败局，就下达了全线撤退的命令。
其实，马谡的军队，在王平的收拢之下，也就损失了4000左右，加上赵云损失的军队，此时整个蜀军也就损失了5000左右。而魏延的1.5万北上援军，加上王平收拢的马谡5000残军，加上马忠、黄袭的1万军，如果诸葛亮再把在冀县的3万后勤部队，抽出2万北上增援，就有5万多的军队，还是很有实力翻盘的。
虽然蜀军多为步兵，但有克制魏军骑兵的利器弓弩、十连发弩、扎马钉、战车等，有虎步兵、连弩士、神刀军、无当飞军，还有部分白毦兵，即使在平原上与魏国骑兵作战，也不会落下风，甚至能以一挡十。
蜀军的作战能力无论是单兵作战还是阵法作战，都要高魏军一筹，这也是为什么诸葛亮兵少，还能多次主动出击魏国的最大倚仗。因此，即使在街亭失守不利的情况下，蜀军翻盘的概率还是很高的，但诸葛亮却下达了全线撤退的错误命令。
魏延、王平、马忠、黄袭接到诸葛亮的命令后，都陆续地节节撤退，损失是在所难免的，因为蜀军的优势，张郃的军队也不敢过于紧逼。
驻守在南安郡的吴懿、张嶷接到命令后，也率领军队撤退了，在撤退途中，凉州刺史徐邈和金城太守也趁机率军2万出击，使吴懿、张嶷部遭受损失。在列柳城的高翔部，也受到郭淮的进攻，损失较大，连祁山堡的陈式部，也受到魏军反攻而有不小的损失。
只有赵云部，因为赵云亲自断后，曹真的10大万惧怕赵云的威名，赵云部从容的撤退，兵马、辎重均无一损失。
228年6月，诸葛亮全军撤回到汉中南郑，丢失了前期占领陇右的全部地盘。清点兵力，蜀军此战共损失了1.5万余人。赵云部前期作战损失1000人，马谡在街亭损失4000人。撤退途中，诸葛亮所部损失了2000人，高翔所部在列柳城损失了2000人，吴懿、张嶷部损失1000人，魏延、王平、马忠、黄袭、陈式各部在撤退中均损失了1000人。而正面作战的损失只有5000人，撤退途中的损失竟然有1万人之多，可见诸葛亮失误的撤退命令。
诸葛亮在羞愧、气愤、无奈之下，只得*掉了马谡、张休、李盛等人替罪，他本人也自觉地上书自贬三级为右将军，仍行丞相事务，赵云也被贬为镇东将军。诸葛亮的第一次北伐曹魏之战，至此以诸葛亮的全面失败而告终。
