派魯肅去收取長沙、桂陽、江夏，然后在陸口屯兵，讓呂蒙和甘寧返回，又去余杭將凌統召回。不到一天的時間，呂蒙和甘寧先到了，呂蒙獻策道：“如今曹操派廬江太守朱光，在皖城屯兵，興修稻田，將作物收獲于合肥，作為軍餉，現在我們可以先取皖城，再來進攻合肥。”
孫權道：“這個想法很好。”于是讓呂蒙、甘寧作為先鋒，蔣欽、潘璋隨后，孫權親自帶著周泰、陳武、董襲、徐盛為中軍，那時程普、黃蓋、韓當在各處鎮守，沒有一起出征。
軍馬渡江后，很快取下和州，往皖城方向前進，太守朱光得知消息后，派兵士取合肥求救，一面堅守城池不出。
孫權帶著兵馬來到城下觀看，發現城墻上面弓箭射出，將孫權的麾蓋射中，孫權只好先回到營寨中。
回去后，孫權詢問道：“該怎么拿下皖城呢？”
董襲道：“可以讓兵士修筑一個土山來進攻。”
徐盛道：“直接云梯攻城，再建造橋梁，越過城墻，進入城中進攻。”
呂蒙道：“你們說的辦法都太耗費時間了，合淝救援的兵馬到了，我們就要停止這樣進攻了。現在我們兵士剛剛到了這里，士氣是鼎盛的，可以乘著這個機會，奮力進攻，到了明天加大攻擊力度，到了中午左右，應該就可以攻破城池了！”
孫權聽從了這個建議，就五更造飯，三軍快速前進，城上的石頭和弓箭一起落下，甘寧手里拿著鐵鏈，冒著弓箭而上，朱光加派弓箭手射箭，甘寧將箭撥開，一鏈將朱光擊倒，呂蒙親自擂鼓，士卒一擁而上，亂刀將朱光砍死。其他的兵士看到太守陣亡了，也沒有了斗志，紛紛投降，很快得到了皖城，等到辰時，張遼帶著兵士走了一半路程，聽說皖城已經淪陷了，便撤兵回到了合淝。
孫權進入了皖城，凌統帶著兵馬也到了，孫權進行了犒勞，重賞了呂蒙、甘寧等將領，擺設慶功宴，呂蒙和甘寧上坐，大家都稱贊他們的功勞，酒至半酣，凌統忽然想起了殺父之仇，看到呂蒙和眾人不斷進行夸獎，內心失衡，十分生氣，盯著甘寧看了許久，忽然拔出了身上的佩劍，站在宴席中間，道：“宴席期間沒有音樂，無法助興，看我來舞劍吧。”
甘寧注意到這個動作，將身前的食物都推開，兩手取兩枝戟握住，走到宴席中間，道：“看我來使戟。”
呂蒙感覺到兩人之間濃濃的敵意，就一手拿著盾牌，一手握住砍刀，站在他們中間，道：“你們雖然厲害，但是沒有我巧妙啊！”說完，將刀和牌揮動起來，將兩人分開。
這件事很快傳到了孫權那里，孫權連忙上馬，趕了過來，大家看到孫權到了，都放下了武器。
孫權道：“我經常說，你們兩人要放下以前的仇恨，怎么又這樣啊？”
凌統哭著跪在了地上，孫權再三勸說，這才情緒恢復了一些，到了第二天，起兵進攻合淝，三軍出動。
張遼因為丟了皖城，回到合淝，心中郁悶，忽然有人匯報，說是曹操送了一個木匣子過來，上面有曹操的親筆信，于是看了看，上面是：賊若來進攻就打開。
當日孫權帶著十萬大軍來進攻合淝，張遼就將木匣子打開了，內容是：如果孫權到了，張、李兩位將軍出戰，樂進來守衛城池。