由于王濬在蜀颇有治声，因而朝廷征之将拜右卫将军，除大司农。羊祜素知王濬有大志奇略，又认为伐吴大业，必借长江上流高屋建瓴之势，因而密奏，请留王濬继续镇蜀。皇帝从之，并令王濬在蜀中修造战舰，做顺流东下的准备。羊祜这一建议，是使王濬将功业推向顶点的重要契机，也是后来西晋波澜壮阔灭吴之役中最壮丽景观的重要谋划。

王濬既领命，不负朝野所望，发挥聪明巧思，七年之间，建造了大量的船只。长江水急浪高，行船颠簸多险，王濬便多造大船，并两两相连，构成复体巨舰，宽百二十平方步（六尺为步），可容两千余人。这种双体船，保证了在长江舟行的平稳。王濬又在船上用木头筑城，起楼橹，四面开门，可骑马出入，俨如水上堡垒一般。还在船首画鹢鸟怪兽以壮声威。史称“舟楫之盛，自古未有”。

王濬在蜀中造船，碎屑木片盖江蔽水而下，吴国朝野上下，尽皆耸动。吴建平（今重庆巫山）太守捞取这些木片献给吴帝孙皓。提醒他：晋必是在蜀造船，恐为吞吴之计，要求加强西边建平的防御。民间也盛传着“阿童复阿童（王濬小字阿童），衔刀（谓益州）浮渡江。不畏岸上兽，但畏水中龙”的童谣（《晋书·羊祜传》）。可见王濬既已治称域内，亦复声闻敌国了。

不久，朝廷拜王濬为龙骧将军，监梁州、益州诸军事，正式委以伐吴方面的重任。