269年（泰始五年），晋以尚书左仆射羊祜都督荆州诸军事。自此始，羊祜在襄阳屯田十年，准备灭吴。

司马炎励精图治，晋国力量日盛的同时，孙吴末帝孙皓昏庸荒**，吴国势渐颓。于是，西晋朝野灭吴的呼声日高。为使平吴有充分的把握，司马炎于本年派羊祜去晋吴交界的荆州地带进行灭吴的准备工作。

羊祜，字叔子，泰郡南城人，人品与才略俱佳，曾注《老子》。于269年出镇襄阳后，筹划灭吴。先占据荆州的战略要地与膏腴之地，取得军事与经济的主动。然后大兴屯田，经十年积蓄，仓廪丰实。又大行“攻心战”，对吴作战行军，不擅取农家财物，俘吴战俘，送还家人团聚，渐渐赢得江左人心，称其为“羊公”，同时，造船备粮，以期平吴。晚年曾多次上表请伐东吴，未能如愿。278年，羊祜抱憾而逝，荐杜预继镇襄阳。

襄阳百姓于羊祜平生游憩的地方岘山，为他建碑立庙。游人望见其碑，常感动得泪流满面。杜预因此称之为“堕泪碑”。