冬季，十二月，吴夏口都督孙慎进入江夏、汝南，抢掠一千多户百姓之后离开。晋武帝下诏谴责侍臣羊祜没有追击讨伐的举动，并且打算迁徙荆州。羊祜说：“江夏距离襄阳八百里，等知道了贼人的消息，贼人已经离开好几天了，步军怎能追得上？让军队劳累来免去我的罪责，不是我的志向。当年魏武帝设置都督，大抵都与州相接近，就是因为喜欢兵力集中、讨厌兵力分散的原因。战场之上，一时这样，一时那样，只是要谨慎防守而已。如果总是迁州，贼人出没无常，也不知道要把州设在哪里才容易据守。
晋武帝咸宁四年戊戌（公元278年）
羊祜因病请求入朝，来到宫门口，晋武帝命令他乘坐辇车进入皇宫，不用行拜礼坐下。羊祜当着晋武帝的面陈述攻打吴国的计策，晋武帝觉得很好。因为羊祜生病，不宜经常入宫，就改派张华去羊祜家里询问策略筹划的事情。羊祜说：“孙皓已经十分暴虐，现在不交战就能战胜他。如果孙皓不幸死了，吴国人会更换国君，虽然我们有百万军队，也不能窥伺长江沿岸了，吴国也将成为我们的后患。”张华觉得很有道理。羊祜说：“能够成全我志向的人，就是你了。”晋武帝打算让羊祜躺在车上统领各路将领，羊祜说：“攻打吴国不用我去，但是平定吴国之后，就要劳累您圣明的思虑了。我不敢贪图功绩和名声，等到战事完毕，应当委派官员去镇抚的时候，希望您慎重地选择合适的人选。”