他的至交好友宋濂早已经追随刘伯温，朱元璋派一个部下孙炎对刘伯温“展开攻势”，最终刘伯温答应了朱元璋的请求，决定共谋大业。
刘伯温带着写好的“十八策”赶往金陵，为朱元璋在各个方面都提出了建设性的意见。朱元璋得知刘伯温的到来，也是非常欣喜，设置了礼贤馆专门款待他，为他接风洗尘。
刘伯温见朱元璋对自己如此重视，他所呈递的意见也被一一采纳，更是大喜过望，下定决心全力帮助朱元璋一统江山。
在刘伯温的建议下，朱元璋对当时的强大势力如陈友谅、张士诚、方国珍等采取逐个击破的方法，顺利灭掉了他们。短短四年，朱元璋便自立为王，号“吴”。
朱元璋称王之后，只剩下最后一步：消灭尚在北方的元朝。
刘伯温穷尽心血，历经多日，终于制定了非常完善的北伐方略，协助朱元璋完成了灭元大事。
公元1368年，朱元璋在应天府即位，定国号大明，年号为“洪武”。从出山到辅佐朱元璋称帝，刘伯温用了八年，这八年里，他纵横谋划，功居至高。
刘伯温不仅善于军政，还时刻在警醒朱元璋。早在平定张士诚之后，张昶为了拍马屁，上述称赞朱元璋的功德，认为已经到了享乐的时候了。
刘伯温知道之后，就找到朱元璋，说“张昶是想做赵高啊！”一语惊醒朱元璋。但是也因为直言纳谏，朱元璋渐渐对刘伯温起了反感，尤其是称帝之后，刘伯温的直言不讳在朱元璋眼里就是居功自傲。
故而朱元璋有意打压刘伯温，直接除掉刘伯温，会让大臣们寒心，而且刘伯温根基深厚，不是轻易就能办到的，所以手段非常隐晦。
洪武元年，朱元璋大封功臣，刘伯温的贡献最为突出，却只得到了非常微薄的奖赏。论功行赏时，刘伯温与韩善长功劳相当，韩善长被封为公爵，官拜丞相，但刘伯温只得到了一个伯爵的位置，在御史台当一个副手。
当然，也有史*载，刘伯温为人谦和低调，不愿意让自己处于一个非常显眼的位置。故而他在朱元璋册封前就找上门，主动要求给自己册封的官职低一些。
不管是有意还是无意，主动或者被动，自此，刘伯温在百官心中的地位骤然下降。
毕竟原本他是朱元璋最器重的左膀右臂，完全有做丞相的资格。但是现在，他只是一个比自己官职还要低，不被朱元璋喜欢的小官，心中不免轻视。
若说这件事情对刘伯温的影响不算严重，接下来的一件事情却直接导致刘伯温此后招致了*身之祸。
开国不久，朱元璋就特地邀请刘伯温进宫赴宴，君臣饮酒畅谈。虽然喝了几杯酒，但是两人都非常清醒，朱元璋借着酒劲故意问他如何看待朝廷的诸位功臣。
刘伯温性子耿直，想不到那么多弯弯绕绕，于是直言不讳：“汪广洋、杨宪之辈，难当大任；胡惟庸“譬之驾，惧其偾辕也。”就是说他是一匹劣马，早晚翻车误事。
按理说，君臣私下里的交谈，内容只在两人的心里。但是不久之后，宫里都知道了刘伯温对三位功臣的评价，背后也许有朱元璋在故意推波助澜。
汪广洋三人也都听到了刘伯温的评价。汪广洋性格宽容仁厚，又深知刘伯温快言快语，不留情面，于是一笑而过。而杨宪一直就非常崇拜刘伯温，对他的评价更是“认真接纳”，不往心里去。
唯独胡惟庸不满意，毕竟刘伯温损他是最厉害的，偏偏胡惟庸与他也不对头。于是胡惟庸掏出小本本，把刘伯温记了下来。
由于朱元璋对他猜忌不绝，不久之后，刘伯温就告老还乡，再也不敢过问任何政事。朱元璋本来不愿意放刘伯温回去，担心他起兵造反。
为了让朱元璋放心，刘伯温不得以让儿子留在京城担任官职，其实也算是一个人质。
朱元璋这才让他回到老家，但每年春节还要派他的儿子、宋濂的儿子等人招进宫殿，表面上嘘寒问暖，其实也是在试探他们。
