俾斯麦的事业没有什么可忙的了，现在他的生活里就只剩下了家庭和森林，他的爱犬死后，他便不再养狗。他的长兄在他下台后不久便死去了，子女们也都不在他的身边，只有妻子留在他身边，他害怕和妻子离别，他对友人说：

“我不愿比我太太早一步归天，我不愿留下妻子一人。”

从1894年后，他妻子的身体日益衰弱，那年秋天，她过了70岁生日。一天早上，当俾斯麦走进她房间时，发现前天晚上还在饭厅一起用餐的妻子，已经与世长辞了。他抱着妻子好像10岁少年般地坐在地板上放声大哭。

第二天早晨，他从书架上拿下一册德国历史，对自己说：“希望这本书能让我心情好转。”在一起生活48年之久的妻子的死，给他带来了很大的打击，心中一时还无法恢复平静。

1896年，俄国和德国的条约期满后，俄国转而与法国接近，为此，欧洲各国很恐慌，德国报纸也指责这是俾斯麦的失策。这让俾斯麦很不服气，于是他便把自己辞职前后的事情公开发表在了报上，这对德国皇帝打击很大，而这一次也是俾斯麦的最后一次公开活动。

从第二年开始，俾斯麦因神经痛而双脚行动不便，一直坐在轮椅上。不过他的脑力倒是一点没有衰退。他当时曾预言俄国可能会很快成为共和国，一旦劳资之间发生纠纷，最后一定是劳工胜利。任何一个国家一旦给劳工投票权，就一定会发生这样的结果。此外，他还预测了德国的未来，他说：“神可能会再给德国一次衰颓期，之后再给它新的光荣期。但是可能要在它改变为共和制度以后才能出现。”

1898年7月30日晚上11点，俾斯麦在喀尔斯鲁山庄去世了，享年83岁。临终时，他对守候在枕边的女儿说：“谢谢你！我的女儿！”

俾斯麦在故乡的塑像

根据他的遗嘱，儿女们把他和妻子一起葬在了喀尔斯鲁山庄的丘陵上。虽然皇帝赐给他国葬的恩典，但他的长子哈佛以父亲的遗嘱为由婉拒了。

俾斯麦的墓碑上写着：

俾斯麦公爵，长眠于此。

1815年4月1日生。

1898年7月30日死。

威廉一世皇帝的忠臣。