歌词写得这么美，可是曲作者刘炽却同样不知该用怎样的旋律，来体现这么美好的画面。
在这之前，刘炽这位从延安走出的艺术家，创作得最多的，就是像《胜利鼓舞》、《翻身道情》、《工人大合唱》等这样的充满力量和动感的歌曲。所以最开始，他为沙蒙提供的，是类似进行曲之类的曲子。可是沙蒙不满意，因为他想要“抒情”，想要“美”——最好是让人一听，就能热泪盈眶。
为此，刘炽找了许多老百姓喜欢的歌来反复听，如《二月里来》、《小河淌水》、《在那遥远的地方》、《小放牛》等。同时，他又一遍遍地反复唱这些歌，唱累了呢，就用笛子吹，周而复始，简直到了“走火入魔”的程度。不仅如此，为了避免外界打扰，他还在长影小白楼自己的房间门口，贴上“刘炽死了”的条子。可见他的创作有多专心。
最终，刘炽在河北民歌《小放牛》中的前两句里找到了切入点，并加入新的元素，使整个曲子一下子就鲜亮了起来。
刘炽就跟小孩子似的高兴极了。这时，他的眼前，又出现了许多志愿军战士，他们对祖国的爱，其实比任何人都更加深刻。刘炽把这样的感情全部都融进了自己的曲子里，使得歌曲的前半部分抒情柔美，涌现出一种浓浓的思乡之情，而后半部分的副歌，则如洪水开闸，喷涌而出，尽情表达了战士们歌唱祖国热爱祖国的豪迈之情。
《我的祖国》的词曲出来之后，大家听过都说简直太好了。三段歌是三幅美丽的图画，引人入胜。歌词真挚朴实，而又生动感人，曲子呢，既委婉动听，又气势如虹。沙蒙喜不自禁，剩下的事情，就是找谁来唱这首歌了。
