曹操征马超时，曹丕留守，令程昱参军事。其时，河间地区发生了田银、苏伯等人的叛乱。曹丕令将军贾信领兵讨伐。大军到后，叛军有一千多人请降。不少人主张按旧法一律斩首。程昱不同意。他说：“过去诛杀降贼，是在天下混乱之时。包围叛贼，然后把出降的斩首，是示威于下，以使叛贼在不被包围时就投降。而今天下安定，叛乱又在邦域之内，他们只有投降一条路，杀了降人起不到震慑叛乱的作用，因而以前诛杀降贼的意义已经没有了。”他认为，即使要诛杀这批降贼，也当事先禀告曹操。众人不服，以为曹丕既然受命行事，有权做主，不用禀告。曹丕一时不能决断，又专门请教程昱。程昱说：“在危急紧迫之时，可以专权行事，而此事不急，故老臣不愿将军如此专断行动。”曹丕认为，程昱的分析和考虑很周全，立即将此事禀告曹操。果然，曹操不同意诛杀降人。当曹操从关中回来，听说了事情的全部经过，很高兴，对程昱说：“君不仅明于军计，而且善处人父子之间。”对他不挑动曹丕擅作主张，让他处好父子关系的态度很满意。

程昱认定曹操是一代明主，应当以自己的才策谋略，尽心辅佐，曾在曹操处境困难、情绪沮丧之时，替他分析形势，指明前途，建策图霸。曹操统一北方后，一天，拊着程昱的背说：“当兖州反叛，我一败涂地之时，若不是君劝我绝于袁绍，哪里会有今天啊！”程昱在曹操集团处于关键时刻所起的作用，连曹操也不得不承认。

但是，程昱性情刚直，脾气乖戾，与同僚相处，往往不和。因此，他晚年知足而退。一天，他召集族人，大摆酒宴，然后说：“知足不辱，吾可以退矣。”于是，自己上表曹操，归还兵权，从此闭门不出。

曹丕即帝位，仍以他为卫尉，并进封安乡侯，增邑三百户，加上以前的共八百户，还分封他的儿孙为列侯。就在这年，他以八十岁的高龄辞世，文帝为之痛哭，追赠车骑将军，谥曰肃侯。（谭良啸）