随后，左宗棠离开骆秉章幕府，以四品京堂候补的身份，到曾国藩大营担任幕僚，“襄办军务”。
曾国藩创建湘军以来，招徕了许多幕僚，幕府里人才济济，左宗棠在里面并不显眼。曾国藩也深知，左宗棠不是久居他人之下的人物，便派他回湖南老家招募军队。左宗棠求之不得，招募了5000人，组成了一支楚军。
1861年，左宗棠率领楚军，在曾国藩的派遣下奔赴浙江与太平军作战。当年，左宗棠在曾国藩的推荐下，任职浙江巡抚。这是左宗棠第一份正式职务。
浙江巡抚是浙江省的最高行政长官，级别为从二品，加兵部侍郎衔者为正二品，相当于现在的浙江省省长。
左宗棠率领楚军与太平军作战，多次打败太平军，收复了许多失地。1863年，左宗棠升任为闽浙总督。
闽浙总督总管福建省和浙江省的军民政务，为正二品，加兵部尚书衔者为从一品，相当于现在的福建省省长和浙江省省长，兼两省的军区司令员。
在平定太平天国运动后，左宗棠被调到西北边疆。1868年，左宗棠任职陕甘总督。
陕甘总督总管陕西、甘肃和伊犁三省的军民政务，级别为从二品，加兵部侍郎衔者为从一品，相当于现在的陕西、甘肃和伊犁三省省长，兼三省的军区司令员。
1874年，左宗棠被补授为协办大学士，不久又补为东阁大学士。清朝没有设置宰相，大学士承担了宰相的部分职责，被尊称为宰相。协办大学士为从一品，东阁大学士为正一品，分别相当于现状的副国级和正国级。
左宗棠在陕甘总督任上，干了一件非常厉害的事情：收复了新疆，为中国圈回了百万平方公里国土，创造了晚清领土失而复得的奇迹。
1881年，左宗棠从陕甘总督任上，转任军机大臣。军机大臣本身没有级别，左宗棠以东阁大学士的身份担任军机大臣，依然是现状的正国级级别和待遇。
左宗棠多年担任封疆大吏，不适宜留在京城担任军机大臣，因此很快他就被外放为两江总督兼南洋通商大臣。
两江总督总管江苏、安徽和江西三省的军民政务，相当于今天这三个省的省长，同时兼任三个省的军区司令员。南洋通商大臣负责两江区域的外交事宜，相当于现在的半个外交部长。
1884年，左宗棠回任军机大臣，并管理神机营事务。当年9月，由于中法战争战局紧急，左宗棠以钦差大臣身份督办闽海军务，远赴福建前线。1885年9月5日，左宗棠病逝于福建福州，享年73岁。
