1934年，史密斯前往巴黎，成为驻地海军的助理武官，并学习高级参谋课程，后被提升为少校。
1936年8月，他回到美国海军陆战队讲授两栖作战课程，后来任中校。1942年5月，史密斯被派往华盛顿，他在海军陆战队总部担任行政职务，负责作战计划和政策制定。
1944年1月，他加入了新不列颠第一海军陆战队师，很快被任命为海军陆战队第一师副师长。
出任师长不久，史密斯就参加了被认为是美国最血腥的登陆战役——帕劳群岛战役。
在这一战役中，人员伤亡率高达40%。常年的军队生活加上性格温和、稳重，使得史密斯成为非常纯粹和典型的美国职业军官。这也为之后他在长津之战中的表现埋下了伏笔。
二战结束前夕，史密斯以晋升少将，为陆战队公认的学者型将领及两栖作战专家，任海军陆战队助理司令官和参谋长，并负责《美国海军陆战队公报》的主编。
朝鲜战争爆发，史密斯当时已经是陆战一师师长，在麦克阿瑟提出仁川登陆计划时，史密斯与多位海军、陆战队将领都不赞成方案这一冒险方案。
麦克阿瑟专门召开论证会，详细向反对者解释仁川登陆计划，并成功说服了史密斯等人。
史密斯自此成为麦克阿瑟的主要助手和支持者之一，先后参加仁川登陆、釜山反击、突击汉城等战役，成为美军主要力量，战绩颇佳，史密斯也因此颇得麦克阿瑟赞赏。
1950年6月朝鲜战争爆发，史密斯临危受命出任陆战1师师长，率陆战一师参加朝鲜战争。
在麦克阿瑟的部署下，美军开始向朝鲜东线战场转移主力，美军陆战一师、陆军第七师、海军陆战第一师等，陆续完成集结，从元山、兴南、咸兴等地，向长津湖推进，以展开战役。
为了尽快击垮朝军、结束战争，麦克阿瑟一日数电，要求陆战一师加速向鸭绿江前进。按照美军的作战计划，史密斯带领军队将从元山挺进长津湖，进而占领江界，攻占整个北朝鲜。
不过，史密斯这一次没有听从麦克阿瑟的命令。虽然，此次来到朝鲜战场，史密斯自带着之前战役的光环，更想再次立功扬名，但是长津湖、赴战湖地区位于朝鲜屋脊盖马高原腹地，地貌破碎，地形复杂，道路崎岖，交通不便。
再加上寒冷的冬季，气候恶劣多变，可能会发生极寒天气，诸多条件都不适合美军机动作战。
最后，联合国军东京总部下达数番严令，史密斯才遵命出发。史密斯认为，大批志愿军已经前出东线，因此进军十分谨慎。
