不久之后，朱元璋也得知了刘伯温患病的消息。他派胡惟庸带着御医去看望刘伯温，为刘伯温诊治病情，开药方子。
刘伯温按照御医的药方抓药服用之后，只觉得肚子里像是有一堆石头在拥挤，十分痛苦。
几天之后，刘伯温不堪病痛，求见了朱元璋，把自己的情况告诉了朱元璋。但是朱元璋丝毫不放在心上，只是叮嘱他要放平心态，注意休息。
这下子，刘伯温算是明白了。他在京城硬捱了一个月的时间，已经病得走不动路，才在朱元璋的允许下，被人抬着回到老家。
回家没几天，刘伯温就感觉自己时日无多，于是把几个儿子叫到床前，仔细叮嘱了一番，撒手而去。一代名臣刘伯温，就这样凄惨地死在了床榻上。
刘伯温对儿子的遗言中，有两件事情非常值得注意。
其一是他向次子刘璟说了许多为政要略，又道：我原本想写一份详细的陈情表，向皇上仔细表示我的心意，为他提出最后的建议。但是现在胡惟庸还在，皇上不会听我的话。等胡惟庸败了，皇上肯定会想起我，到时候你再把我告诉你的说给他听。
忠心耿耿，济济于才，可叹刘伯温一心一意效忠朱元璋，却被他如此对待。
第二件事情，就是刘伯温告诉儿子：我死之后，刘家可能会衰败，但九代之后，必然涌现奇才，带领刘家走向兴盛！
九世方兴灵预言，不在天机在人心刘伯温善于预言，曾经跟随朱元璋行军打仗，他说过的话无一不灵验。九代方兴的预言似乎没有依据，可事实上，真的成真了。
刘伯温死后，其子刘琏深受朱元璋的器重，本想留在身边提拔，但胡惟庸暗中陷害刘琏，导致他为了自证清白，抱石跳井。
刘琏死后，原本是次子刘璟承袭爵位，但是刘璟不愿接纳，让给了刘琏的长子刘廌。这也许是为了在刘琏死后给其家眷一个依靠。
但刘廌很快也因为一些小事情被陷害，不仅被削去爵位，还流放边缘地带，后来得到朱元璋的赦免，才得以回归。
回来之后，朝廷本想再度起用刘廌，但刘廌想到祖父、父亲被胡惟庸陷害，自己也差点老死边陲，心灰意冷，于是一心守护长辈之墓，不愿接受。
自刘廌之后，刘家的爵位便被废除。第一代刘伯温争取的小小伯爵，在第三代刘廌这里就已经夭折，今后本不会有什么转机。
