朱元璋采用了他的计策，果然大破陈友谅军。论功行赏时，朱元璋要重奖刘伯温，但刘伯温坚决谢绝了。后来，陈友谅军攻破安庆，朱元璋率军亲征，在刘伯温的帮助下，又将陈友谅打得大败而逃。此时，镇守龙兴的陈友谅部将胡美见陈友谅大势已去，便派了自己的儿子到朱元璋军前请降，但条件是不要遣散他的队伍。正当朱元璋面现难色，不知是否该同意这一条件时，刘伯温在后面踢了一下朱元璋的座位，朱元璋一下子醒悟过来，答应了胡美的条件。胡美一降，江西各地都跟着投降。刘伯温在关键时刻为朱元璋平定江西立下大功。
在朱元璋和陈友谅最后的鄱阳湖决战中，刘伯温更是居功至伟。朱、陈两军相战于鄱阳湖，第一天便激战数十仗。朱元璋坐在船上为他专设的胡床上督战，刘伯温则侍立一旁当参谋。激战正酣，刘伯温突然大叫一声，一把拉起朱元璋跳到了另外一只船上，朱元璋还没反应过来是怎么回事，一发炮弹飞来，将他原来乘坐的船炸得粉碎。而陈友谅及其部下只见炮弹击中了朱元璋的座船，却不知朱元璋已经被刘伯温救出，因而大喜，不料换了船的朱元璋又突然出现在他们面前，一个个大惊失色。两军大战了三天三夜，一时难分胜负。刘伯温请求分兵拒守湖口，并与陈友谅军相约于金木相克的那一天决战，结果，陈友谅败死。陈友谅死后，朱元璋以摧枯拉朽之势灭掉张士诚，北取中原，终于成就帝业。而这一成就帝业的过程，全如刘伯温与朱元璋“隆中对”所献的策略。
大明王朝建立后的刘伯温刘伯温不仅是个谋略过人的军师，也是个铁面无私的执法官。大明王朝建立后，刘伯温与左丞相李善长共同辅佐朱元璋。朱元璋巡幸汴梁(今河南开封)，就让刘伯温和李善长留守京都。刘伯温对李善长说：宋、元二朝，就因为法纪松弛而失天下，因此，我们应整肃法纪。于是，令御史纠劾不要有什么避讳，该查谁就查谁。宿卫宦官有了过错，就上报太子然后按法处置。如此一来，无人再敢藐视法纪。有个叫李彬的人，任中书省都事，犯下了贪赃枉法之罪。此人一直追随李善长，和李善长很好，李善长就要包庇他，便与刘伯温商量，希望看在他的面子上，放李彬一马。要是放在今天，第一丞相亲自出马，不看僧面看佛面，不知能有几个清官敢于不给面子的？刘伯温虽与李善长为朝夕相处的同事，但就是不给李善长这位第一丞相的面子。他将李彬罪行上报朱元璋，得到了朱元璋的批准。
当时，京城久旱，正在筑坛祈雨，刘伯温一拿到朱元璋的批准文书，就在祭坛下将李彬斩了。这一来，刘伯温和李善长也就结下了冤家。而这个第一丞相李善长偏又是个外表谦和，内心却忌恨刻薄之人，刘伯温不给他面子，他也就处心积虑要报复刘伯温。朱元璋一回到京城，李善长就告了刘伯温一状，说刘伯温在祈雨的祭坛下*人，是对老天爷的大不敬，加之那些因刘伯温铁面执法而损失了利益的人，也帮着李善长敲边鼓，尽说刘伯温的坏话，而求了十多天的雨，也一滴未下。朱元璋原本就是个三花脸，便对刘伯温由高度宠信转而产生了不满。
刘伯温自然知道伴君如伴虎的道理，正好自己老婆身体欠佳，便以此为由请假回家了。刘伯温请假回家之时，正是朱元璋商议定都之时。朱元璋以一介平民而成帝王之业，毕竟没有多少文化，只为光宗耀祖，竟然想将其老家凤阳定为都城。刘伯温不想自己帮助朱元璋好不容易才打得的天下轻易失去，临走时，还是诚恳地劝告朱元璋，说：凤阳虽然是您的老家，但那里却不是建立都城的地方。王保保还活着，不可轻视啊！果然，朱元璋平定西边的战事进展得不顺利，便又将刘伯温召回京城。这次，朱元璋要给刘伯温重赏，准备封刘伯温的祖父、父亲为永嘉郡公，提高刘伯温的爵位，但刘伯温都坚决地谢绝了。由此可见，刘伯温和那些利欲熏心之辈毕竟不同，他始终保持了头脑的高度清醒。第一丞相李善长就缺乏这种清醒的头脑，结果不仅自己不得善终，还害了自己一家70余口人。
刘伯温性格刚正，处事公允。朱元璋曾因事责怪丞相李善长，刘伯温并不落井下石，相反，他客观地向朱元璋劝道：李善长是您有功的老部下，他很能调和将领间的矛盾，是应该重用的。朱元璋听后叹道：他曾多次陷害你，你却如此帮他说话！后来李善长罢相，朱元璋准备用杨宪为相，征求刘伯温意见时，刘伯温坚决反对。刘伯温说：杨宪有丞相之才却无丞相之器量。当丞相的，应持心如水，以义理为判辨是非的标准，杨宪是做不到这些的。朱元璋又问汪广洋可否为相。刘伯温说此人比之杨宪更差。又问胡惟庸可否为相。刘伯温说：这好比让胡惟庸驾车，我担心车辕会被损坏。这个不行，那个也不行，朱元璋大约不高兴了，说道：如此说来，我的丞相就只有你才能担任吗？刘伯温答道：我疾恶如仇太过，而且也承受不了繁重的工作，若我为相，会辜负了您的恩德。天下这么大，哪里会没人才呢？希望您仔细查访。但目前这些人，确实都不适于当丞相。天下没有不透风的墙，刘伯温的评论将这些人都得罪了。
谨小慎微却又结下仇敌刘伯温真能预知未来，那就不会说这些话，或者，会换个说法。刘伯温被后人神化，除了他在帮助朱元璋打天下过程中的神机妙算被过分渲染以外。显然还和他超凡脱俗的性格有关。他料事准确，性格刚正，疾恶如仇。朱元璋洪武三年(1370)十一月大封功臣，授刘伯温开国翊运守正文臣、资善大夫、上护军，封诚意伯。刘伯温被封了这么高的官，却不贪恋富贵，洪武四年，便告老还乡了。刘伯温回到老家后，除了下棋喝酒之外，从不提起自己建功立业之事。当地知县几次求见，刘伯温都不答应，这位知县无奈，只得化妆成老百姓去拜见他。刘伯温正在洗脚，便叫自己的儿子将化了装的县令领了进来，并准备设便饭招待。到此，县令才说明我就是某某人，刘伯温一听是知县，马上惊恐失色地站起身来自称草民，并礼送知县出门，不复再见。
刘伯温回家后虽慎言谨行，但对胡惟庸等人的评价，还是给他招来了麻烦。早些时，刘伯温曾告诫道：瓯(今浙江永嘉一带)括(今浙江台州一带)之间有块空地名日谈洋，往南直达福建地界，是盐盗出没之地，方国珍就是凭据这里复杂的环境起事的，因此，应设巡检司守护。一旦设巡检司守护，那些不安分守己的人就不方便了。后来茗洋逃军反叛，这样的大事当地官员竟敢隐匿不报，刘伯温就叫他的大儿子刘琏报告了此事，可是又没有通过中书省，而中书省就掌握在他认为会损坏车辕的胡惟庸手中。胡惟庸正恨找不到机会出气，一看刘琏居然绕过了中书省奏事，这不是公开瞧不起我胡惟庸吗？新仇加旧恨，胡惟庸便指使手下官吏诬告刘伯温，说刘伯温精通阴阳学，看出谈洋这块地方有王气，因此想占为已有，以便将来作为自己的墓地，但当地百姓不愿给他，所以他才请求设巡检司驱逐老百姓。
胡惟庸这一着真是暗藏*机，你刘伯温想死后葬在有王气的地方，不是想让子孙当皇帝吗？朱元璋得到报告，虽然没有就降罪刘伯温，但心里还是起了疙瘩，毕竟，刘伯温是知天文地理的，说不定谈洋真有王气呢！于是，朱元璋便下旨剥夺了刘伯温的俸禄。刘伯温是知道朱元璋*功臣的手段的，害怕了，赶紧到京城去请罪，而且就留在京城，不敢再回老家。不久，朱元璋拜胡惟庸为相，刘伯温吃惊之余长叹道：我真希望我说的话得不到应验，那就是老百姓的福分了！由于担忧和气愤，刘伯温得病了洪武八年三月，朱元璋终于派人送他回老家，到家不久，即病重而亡，时年65岁。刘伯温去世得如此之快，据说中了胡惟庸下的毒。
料事如神不是神我国古代，天文这门学问因有“观星象而知未来”之类的内容，因而严禁私学，主要原因，当然是统治者害怕老百姓一旦懂得天文就便于造反了。刘伯温是天文学大家，他之被诬和被夺去俸禄，也就是因他通晓天文之故。他曾著有《天文书》，临辞世前，他将《天文书》授予长子刘琏，并嘱咐道：你赶快把它交上去，后人千万不可学习。他又对次子刘璟说：为政之道，宽猛相济，互为循环，而目前则应减省刑法，创造一个较为宽松的环境。全国各险要之地，应与京城联络起来。我准备了一份奏章，但现在是胡惟庸当权，送上去没有什么用处。胡惟庸肯定是要败的，他败后，皇上一定会想起我来，你再将它密奏上去。刘伯温对胡惟庸的预言果然应验，洪武十三年，胡惟庸以谋反罪被诛。
刘伯温长得修长，满脸胡须，一表人材。朱元璋一般只呼他“老先生”而不叫其名，又常对人说：刘伯温就是我的张子房(刘邦高参张良)啊！他要问计于刘伯温时，爱在密室之中，而刘伯温又懂得那个时代极少有人懂得的天文学，于是，被神化了的刘伯温以精于象纬之学名世，其满腹经纶反而被掩盖了。
