公元204年，孫權出兵討伐黃祖。丹陽、豫章、廬陵三郡的山越趁機反叛。
呂蒙隨軍出征，與黃蓋、韓當等人率兵鎮守險要，擔任了山越最為活躍地區的縣令。之后遵照孫權的部署，以武力平定了本地區叛亂的山越族人，因功被任命為平北都尉。
4年后，呂蒙再次跟隨孫權發兵進攻夏口。江夏太守黃祖下令用蒙沖戰艦封鎖了江水進入長江的入口，用大棕繩系到了巨石上來固定艦位，并在戰艦上設置了1000多名士兵用弓弩進行交叉射擊，封鎖江面以阻止東吳的士兵通過。
在敢死隊砍斷棕繩后，呂蒙統率前鋒部隊身先士卒，親自斬殺敵軍將領，孫權乘勝水陸并進，包圍了夏口。
黃祖最終被東吳騎兵所斬。此戰孫權大獲全勝，一舉殲滅宿敵黃祖，占領了江夏地區。呂蒙也被評為此戰的首功，晉升為中郎將。
公元208年，呂蒙跟隨周瑜、程普等人在赤壁大破曹軍，迫使曹軍引軍北歸。之后又在周瑜奪取江陵的戰斗中獻策，勸周瑜派300人用木柴把山路截斷，獲得了敵軍大量的戰馬，使曹軍威風大減。
公元210年，周瑜病逝，魯肅接任了周瑜的職務。當魯肅途經呂蒙的駐地時，身為一代儒將的魯肅認為呂蒙是武夫出身，便對呂蒙有著一絲輕視。
但在共謀戰略時，魯肅竟然被呂蒙對局勢的分析感到無比震驚，不禁越席而起，親切地拍著他的背贊嘆道：“以你如今的才略，已經不再是吳下阿蒙了。“從此二人結為好友，關系很是密切。
公元213年，曹操親率10萬大軍進攻孫權，在濡須口攻破了孫權部隊在西江的營寨。呂蒙便跟隨孫權統領7萬士兵前往抵御。
曹操在戰斗中，呂蒙多次獻出奇計，均收獲頗豐，還在統領軍隊方面令曹操大吃一驚。曹操遙望孫權的部隊陣容威嚴，布防嚴密，于是感嘆地說：“生子當如孫仲謀。“遂不敢輕易冒進。此時趕上長江汛期將至，孫權便寫信勸曹操盡快撤兵。曹操也審時度勢，選擇了主動撤軍。
一年后，孫權率軍沿江而上進攻皖城。呂蒙認為制造工程設備和堆土成山來攻城需要花費大量的時間，到時候敵人的城防已經鞏固完畢，援兵也必定會到來。
于是建議孫權應該趁三軍士氣高昂的時候從四面包抄發起進攻，然后趁大水未退的時候撤軍。采納了呂蒙的建議后，孫權命甘寧率領精銳士卒從拂曉發起猛攻，僅一頓飯的時間就攻破了城池。此戰的勝利也對孫權控制江淮地域起到了重要的作用。
劉備占據荊州后派關羽鎮守，孫權屢次求索，但均遭到了拒絕。
公元215年，孫權派呂蒙率2萬兵士攻取沙長、零陵、桂陽三郡。沙長、桂陽二郡望風歸附，唯有零陵太守郝普堅守不降。劉備見形勢危急，令關羽率軍前往爭奪三郡。
呂蒙卻在援軍到達之前智取了零陵。正當孫劉雙方大戰在即時，曹操卻出兵攻打了漢中。劉備后方吃緊，被迫與孫權講和，雙方遂以湘水為界。
孫權在肥合戰敗后，曹操再次興師伐吳。孫權則在濡須口駐扎，想要控制濡須水與長江的交匯處，同時以呂蒙為都督，令其率軍駐守濡須口。憑借著之前所見的船塢和上面的強弩來抵御曹軍。在呂蒙的堅守之下，曹操攻濡須口長達一年未果。