鲁肃出身富家，但祖上几世衰微，湮没无闻。鲁肃一出世，便失去了父亲，依靠祖母抚养成人。他身材魁梧，体貌健壮，少有大志，不治家事，性好施与。他曾标价出卖田地，大散钱财，救济贫困，在家乡很有威信。

汉末，豪强蜂起，鲁肃为应对时变，学剑习射，常聚集一批青年，以出猎为名，往山中练武治兵。

建安三年（198），周瑜出任居巢（今安徽桐城）长，积极为孙策扩大势力谋划。居巢离东城三百余里，周瑜特带领几百人专程拜访鲁肃，并且请他资助军粮。鲁肃家有两大粮仓，每仓藏米三万斛，他即拨一仓米周济周瑜。鲁肃与周瑜素昧平生，便如此慷慨，使周瑜十分感动，知道鲁肃为人非同寻常，从此结为知己。

这时，袁术在寿春（今安徽寿县）称帝，听到鲁肃的名声，特任命他为东城长，但鲁肃见袁术行事了无纲纪，不足与图大事，辞不奉命，带着家小及年轻勇士百余人到南边居巢去投奔周瑜。这表现了鲁肃的远见卓识。不久，周瑜东渡还吴（今江苏苏州）往依孙策，鲁肃与周瑜同行，将家属安置在曲阿（今江苏丹阳），正要与周瑜共同辅佐孙策，不幸祖母去世，鲁肃只得留下料理丧事。将祖母灵柩运回老家东城安葬。