前文说到祖逖率队北伐。进军到芦洲的时候，他派参军殷义前去接洽当地的坞堡(1)堡主张平、樊雅。

张平、樊雅之前已经向晋归降，但因为殷义高傲自大，看不起张平，受到羞辱的张平怒斩殷义，再次反叛。祖逖率军进攻张平，但一年多过去了，仍然攻不进去。硬的不行，就使用反间计，祖逖诱使张平的部将谢浮杀死了张平，谢浮投降。

解决了一个张平，但樊雅仍然坚守谯城（今安徽亳州市），祖逖无法攻克，向南中郎将王含求援。王含派参军桓宣说服樊雅出城投降，祖逖顺利进入了谯城。

听说祖逖占领了谯城，石勒坐不住了，派骠骑大将军石虎率军包围了谯城。王含又派桓宣带兵来援，和祖逖内外夹击，石虎不敌撤退。桓宣屡立战功，祖逖向司马睿上书推荐他做了谯国太守。

当初，蓬陂坞主陈川自封宁朔将军、陈留太守，祖逖进攻樊雅时，陈川派部将李头帮助祖逖。李头作战勇敢，立下了战功。樊雅的坐骑是匹宝马，李头很想得到这匹宝马，但又不敢明说，祖逖看出了他的心思，主动把宝马送给李头，之后李头常常对人感叹地说：“能够遇到祖逖这样的领导，虽死何憾！”

可是说者无心，听者有意，陈川听到这话后大怒，以为李头要背叛自己，就派人杀死了李头。李头的亲信冯宠带领四百多人投靠了祖逖，陈川更为恼怒，但摄于祖逖的威名，不敢直接进攻，只好派手下前去骚扰，给祖逖添堵。他们在豫州进行抢劫，抢走了不少女人和车马，祖逖派兵截击，把陈川抢走的女人和车马救了回来，然后人全部遣返回家，车马归还原主。

陈川自知不是祖逖的对手，干脆投降了石勒。祖逖率军讨伐陈川，石勒命令石虎领兵五万前去救援。祖逖用奇计大败石虎，石虎留下桃豹镇守蓬关西城，带陈川等人退回了襄国。

桃豹是员猛将，他是石勒赖以起家的十八骑之一，是块难啃的骨头，祖逖命韩潜与他相对，镇守蓬关东城。蓬关城中的两军都不敢轻举妄动，相持了四十多天。在这期间，韩潜军队由东门出入，桃豹军队由南门出入，小心翼翼地互相避让，避免出现争端。

老这样对峙也不是办法，祖逖心生一计。他命人把泥土装入粮袋，让一千多名士兵护送着，送给韩潜的部队，然后派些老弱的士兵装扮成挑夫，挑上真正的米，故意显得体力不支落在后面，坐在树荫下休息。

桃豹这边粮食吃紧，一看抢粮的机会来了，马上派部队前去抢劫，“挑夫”扔下粮食就跑，饥饿的桃豹士兵终于饱餐了一顿。吃着吃着，桃豹觉得不对劲了：祖逖有这么多粮食吃，而我们却缺少吃的，这样下去，我们必败呀！他渐渐沮丧起来。

石勒这边筹集了不少粮食，派部将刘夜堂带队驱赶着一千头驮上粮食的驴，前去供应桃豹。祖逖得到消息，命韩潜和冯铁在汴水埋伏，瞅准时机，大败刘夜堂，抢走了粮食。桃豹知道粮食被抢走后彻底丧失信心，连夜逃到了东燕城（今河南延津县东北）。祖逖命韩潜进驻封丘（今河南封丘县），进一步逼迫桃豹，又命冯铁进驻蓬关，他自己则进驻雍丘（今河南杞县）。

祖逖不断派兵袭击后赵，后赵边关不断有将士投降祖逖，边境形式逐渐紧张起来。

晋留在中原的将领赵固、上官巳、李矩、郭默等这时候还在相互内斗，祖逖派人对他们说，现在是亡国灭种的关键时候了，我们应该同仇敌忾，收起成见，一致对外。各位将领一琢磨，觉得祖逖将军说得对，于是纷纷放弃恩怨，都甘愿受祖逖的指挥，祖逖顿时军力大增。

祖逖礼贤下士，即便是地位低微的，或是和他关系疏远的，他也能以礼相待。而且他虽生活节俭，但对部下却一点也不吝啬，每当部下有了一点功劳，不需过夜，他的奖赏就会送上。将士们诚心归附，军队更加势不可挡，黄河以南的土地很快就重回晋的怀抱。

太兴三年（320）七月，晋元帝司马睿加封祖逖为镇西将军。

黄河沿岸各个堡寨都是汉人，但他们都有人质在后赵，只能暗地里投降，祖逖也允许他们便宜行事，还时不时地派小股部队假装去攻击一下，来表明这些堡寨并未投降晋，以确保人质的安全。堡主们对祖逖感恩戴德，每当后赵有军事行动的时候，这些堡主都会派人提前秘密通知祖逖，也因为这个原因，祖逖部队屡屡获胜。

祖逖厉兵秣马，积蓄粮秣，为向河北进攻做充分的军事准备。

面对祖逖咄咄逼人的攻势，石勒十分担忧，不敢再向南进攻。为了争取祖逖，他命幽州府把祖逖祖上的坟墓修葺一新，并指派专人守护，还写信给祖逖，希望开通边关贸易。祖逖没有回信，但默许边关百姓自由贸易，祖逖从边关贸易得到的税收是田赋收入的十倍，经济实力更加壮大了。

石勒和祖逖很默契，石勒杀死了从祖逖方投降过来的人，祖逖也不收留从后赵叛逃过来的人。边境无战事，人民得到了充分休养生息的机会。

(1) 坞堡，是以家族或村寨为单位构筑起的用来自卫的设施。