至正十二年（1352）闰三月初一，元璋到了濠州城下。这时元军仍在濠州附近，虽然按兵不动，红军还是不敢大意，城上布满警戒的部队，巡逻哨探的更是川流不绝。城门的守兵看见一个丑和尚，衣衫褴褛，头上却包着红巾，大模大样走入门内，毫不畏怯。盘问他来踪去路，却只说来求见郭元帅，更无别话，不由得起了疑心，以为是元兵派来的奸细，三言两语，起了冲突，把元璋绑了，派人报告郭元帅，请令旗行刑。子兴听了报告，觉得诧异，心想若是奸细，不该如此从容，头上包有红巾，求见自己，许是来投顺的好汉，不要枉杀了好人。要知道一个究竟，就骑了一匹快马，赶到城门，远远看见四五十个兵围着，人头攒动，指手画脚在呵斥，连忙喝退众兵，只见一个躯干修伟的和尚，五花大绑，捆在拴马桩上，相貌虽丑，却有一股威严的神气，被绑着候令斩决，却毫无畏惧恐慌的模样。心里已有点纳罕，下马上前问了底细，知道果然是来投奔的，子兴大喜，立命解缚，收为步卒。

元璋入了伍，参见了队长，逐日跟着队伍上操习技，因为体格好，记性又强，不上半个月，已是队里顶尖顶上的角色，几次跟着队伍出城哨探，他态度安详，计谋又多，同队的都听他的调度，每次出去，总是得了功，却不损伤一人一卒，慢慢地连队长也遇事和他商量了。不知不觉过了两个多月，一天，郭子兴带了亲兵出来巡察，经过元璋的营房，全队都排成一横列向主帅行礼。元璋个子高大，恰好排在队首。子兴见了记起前事，唤队长来问这新投效的心地和才干如何，队长极口称赞，子兴听了，就吩咐将元璋升为亲兵十夫长，立刻调回帅府。

元璋遇事小心勤谨，却又敢作敢为，几次奉命出征，临阵勇往无前，战胜攻取，所得财帛扫数献与子兴；得有赏赐，又推功分给同伴。说话不多，句句都有斤两。几个月后，不但军中誉声四起，子兴也视同心腹，言听计从了。子兴次妻张夫人抚养马公季女，已经成年，子兴爱重元璋，要他出死力，和张夫人商量，招赘元璋，张夫人也听说元璋才资出众，满口赞成，就择日给两口成婚。从此军中就改称元璋为朱公子。

和子兴同时起事的孙德崖等四元帅，势均位等，谁也不肯服谁，各自发施号令，没有个通盘的调度，占了濠州半年，各人只是带领部下，向四乡剽掠，兵力不能出濠州一步。子兴素有大志，看不惯这样行径，几次拿话劝导，说得不投机，竟闹翻了。子兴气极，索性闲住在家里，一切军民大政都不闻不问。元璋看出形势不妙，借一个方便，劝告子兴应该照常视事，不可灰心，假如老躲在家里，他们四个联合起来，对付你一个，这个亏是吃定了。子兴听了，只是摇头叹气而已。元璋见劝不动，只好背地里向孙德崖四人解释，用意联络弥缝，免得伤了和气。

九月间，元丞相脱脱统兵征徐州，招募场下盐丁和城市健儿三万人，黄衣黄帽号为黄军，一口气把徐州攻下，芝麻李落荒逃走，被元兵所杀，同党彭大、赵均用率领残兵投奔濠州。徐、濠都是红军，两下里原是一家，彭、赵起事早，兵多，占的地方也大，到了濠州以后，竟反客为主，郭子兴、孙德崖倒要听客人的调度了。彭大聪明有板眼，和郭子兴相处得很好，赵均用则和孙德崖拉拢。两派明争暗斗，心里都不服气，孙德崖又把话来挑拨赵均用，说郭子兴眼皮浅，只认得彭将军，百般趋奉；对将军却白眼相待，瞧不起人。均用大怒，带领亲兵径来火并。子兴冷不防，被均用的亲兵一索子捆了，带到孙德崖家，锁闭在一间空房子里。这天元璋恰好出差在外，得信奔回，阖家大小忙乱着，要派兵去抢救，元璋连忙止住，叫出子兴二子天叙、天爵，一径去找彭大，彭大听了，勃然大怒说：“他们太胡闹了，有我在，谁敢害你元帅！”即刻派兵去孙家，元璋也全身盔甲，把空房子打开，救出子兴，破开镣械，背回家里。赵均用知道彭大出头，怕伤了和气，也就隐忍着算了。

元丞相脱脱乘连下徐州、汝宁之势，分兵派贾鲁进围濠州。大敌当头，红军的几个头脑慌了，才释去旧憾，齐心一志地坚守城池。元璋深得军心，朝夕上城帮同守御，从这年冬天一直到第二年春天，整整被围了五个月，幸得城里粮食丰足，未生他变。一天，元将贾鲁病死，军无斗志，只好解围他去。围虽解了，红军却也折伤不少人马，吃亏不少。

彭大、赵均用兴高采烈，彭大自称鲁淮王，均用自称永义王，子兴和孙德崖等仍然是元帅。