在大明朝的所有文臣武将中，刘伯温和汤和是两个极为特殊的存在，也是最终得以在洪武朝堂之上全身而退的两个人。朱元璋和汤和二人从小一起长大，情谊自然非同一般。相比之下，刘伯温和朱元璋之间却是非常明确的君臣关系。朱元璋能够从一介草民一步步登上天子之位，这与刘伯温的明察暗算有着密不可分的关系。但朱元璋对待刘伯温，也并非全然没有猜疑的心思，只不过刘伯温更懂得道家为人处世的哲学，能够在权力最顶峰的时候急流勇退，由此才保全了自己的身家性命。

朱元璋初登基时，有一次召刘伯温近前问话。朱元璋说，“如今天下虽定，朕却常常念及百姓众多、事务万绪千头，因此忧悬于心而不得安眠。”这只不过是朱元璋向亲信近臣的真情诉说，原本并无其他事由。刘伯温则回答说：“当今天下太平，陛下可以舒一舒心中忧虑，没有必要再像当初那般整日操劳了。”刘伯温的话虽然也只是日常安慰，但却遭到了朱元璋的反驳，他说：“如今天下百姓刚刚脱离了苦难，朕掌管全天下，自然是要为天下之事忧虑的。与天下大事相比，朕一个人的小事又算得了什么呢！朕曾听说，如果一个人不小心，走路就一定会摔倒。天下事务繁多，如果不能小心谨慎处理，就一定会酝酿出大问题，所以朕是无时无刻都不能放松的。如今爱卿你虽然劝诫朕放下些心思，但朕却认为这样做是不妥当的。”

君臣之间意见相左的对话不止这一次。还有一次，朱元璋对刘伯温表达了想要对百姓放宽律法处罚的想法，不料却遭到了刘伯温的反对。刘伯温说：“元朝之所以最终走向崩坏，便是因为法律松弛，上下之间相互蒙蔽。如今虽然天下稳定，但因为刚刚颁布了新法，所以只有严格执法，对臣子百姓都严加整顿，才能保证大明律令行之有效。”其实，朱元璋一直以来都奉行重用刑典的政策，他认为治乱世必须要用重典，此时他说出放松处罚的想法也不过是一时升起的念头，并非是内心真实的写照。但在遭到刘伯温的反对后，朱元璋却执拗于自己的皇威，仍声称只有让百姓休养生息才是治国之道。为此，君臣二人还稍微争论了一下。

诚然，这次君臣之间的对话虽然不至于造成相互猜忌，但刘伯温却因此明白了朱元璋渴求权力的心思。他是皇帝的近臣，在打天下的时候，他所献出的计策尚有使用的价值，而如今，他的进言早已经无法改变当朝陛下的任何想法。如果稍有不慎，终会为自己招来杀身之祸。当年二人一拍即合且心心相通的场面，已经一去不回了。刘伯温心中明白，此时正是自己选择归隐的时候。

其实，早在朱元璋建明封赏功臣时，刘伯温就曾提出过告老的想法。当时，朱元璋以王朝基业未稳，尚需要左膀右臂为由，把已有离去之心的刘伯温挽留了下来。此时当他再一次提出了告老的想法后，朱元璋终于批准了他的请求。而朱元璋最终批准刘伯温卸任还乡，还可能与胡惟庸的从中用计有关系。

当时，刘伯温已经是个年过六十的老人了。朱元璋曾派时任丞相的胡惟庸前去探望刘伯温，胡惟庸为刘伯温带来两服药，声称这是当朝陛下的恩典。刘伯温推辞不得只能服下了药剂，当着胡惟庸的面时虽然并无表现，但胡惟庸走后他却感觉腹中有干瘪之物难以消化。第二日下朝后，朱元璋看到刘伯温的身体竟然大不如昨，不禁感叹他已经年老体衰，确实已经不适合再任用了。由此，朱元璋才批准了刘伯温告老的请求。

原本以为回到家乡去养老，就可以脱离朝堂之上的争斗，但事实证明刘伯温的想法还是太过单纯了。刘伯温告老还乡之事，实则是受到了胡惟庸的排挤。其理由当然再简单不过。在胡惟庸是否能胜任丞相一职的问题上，刘伯温始终予以否定的态度。如今，胡惟庸得志，他最先要铲除的便是老臣刘伯温。刘伯温没想到自己一生心怀朝堂，却最终会被朝廷命官陷害。

刘伯温在回到家乡之前，江浙和福建交界地区的老百姓因为一些土地权的归属问题而经常起争执，两地官员一时无法平息民怨，所以总是会出现一些反叛现象。刘伯温正好是当地人，于是他便主动给朱元璋提出了在此处增设巡检司以加强地方管理的建议。刘伯温的出发点本是好的，但设立巡检司却会触动当地私盐贩子的利益。自从元朝以来，江浙和福建交界处向来都是动乱之地，私盐贩子早已和两地官府勾结行事。一旦私盐贩子的利益受到损害，以贪污为事的官员们和当地一些豪强势力便在暗地里参了刘伯温一本。最终，他们把状书递到了京城，称刘伯温建议设立巡检司一事，并非是为朝廷社稷着想，而是想要趁机建立自己的势力范围，把本地真正化为私有。

朱元璋在接到这份状纸后，并没有如大家预想的那般对刘伯温进行处罚。或许是念及当年旧情，他只是罚掉了刘伯温的俸禄，使其做了一个空头伯爵，并命其及早回乡养老。

刘伯温听从圣命，从京城回到了家乡。仅在回乡之后的第二个月，刘伯温便因病而死，终年六十五岁。虽然属于他的时代落幕了，但相比其他开国功臣，刘伯温仍然有一个相对幸运的结局。善始且善终，这大概是对一代朝臣最好的慰藉。