于是張遼在當夜募集敢于出城迎戰的精銳將士八百人，開剝牛支讓將士飽食，準備明日大戰。
天色剛亮，張遼被甲持戟，親自先登上直直陷敵陣，撕裂了東吳軍隊的防線。
在他率軍沖入東吳的中軍營壘之前，張遼就已經親自斬殺了數十名東吳士卒和兩名東吳將領。
他一邊大聲呼喊著自己的名號一邊拼殺，沖入東吳的中軍營壘，此后，張遼率軍繼續猛攻，一直沖殺到孫權的主帥旗之下。
孫權見狀大驚，孫權身邊的眾將士也因驚慌失措而不知道該如何應付，于是，孫權等人逃跑到一座較高的山冢上，用長戟來自衛。
張遼見敵方主帥退避，便叱喝孫權，挑釁他下來對戰，但孫權沒有輕舉妄動，隨后孫權發現張遼所率領的士兵非常少，于是聚攏東吳軍隊將張遼的部隊重重包圍。
張遼在吳軍陣中左沖右突，終于打開包圍圈，率領部下們突圍。
公元216年，曹操再征孫權，到合肥后，曹操循行視察昔日張遼作戰的地方，贊嘆良久，于是給張遼增兵，多留諸軍徙屯居巢。
公元217年，曹操攻濡須口，孫權請降，留夏侯惇、曹仁、張遼等屯居巢。
公元219年，關羽圍曹仁于樊城，適時孫權稱藩于魏，為了讓孫權安心攻打荊州，于是曹操召張遼及諸軍悉數回救曹仁。
張遼素來知曉曹操的用意，雖然他收到詔令較晚，但向樊城的進軍速度卻很快。
而張遼尚未到達，徐晃就已經打敗關羽，張遼便與曹操會師摩陂，曹操乘車出來慰勞他，并派他屯于陳郡。
公元220年，曹操去世，曹丕即位魏王，張遼從征東將軍平級轉任為前將軍，分封其兄張汛及一子列侯，同時，賜給張遼的帛多達千匹，谷多達萬斛。
不久孫權再叛變，張遼還屯合肥，并進爵都鄉侯，曹丕賜輿車予其母以示榮寵，并派兵馬送其家人到他駐軍的地方，又預先在當地告示張遼家人將要到臨，命令所有守軍出迎，眾軍士將吏都列隊出候拜迎張遼家人。
看見此景的人均認為這是十分榮耀的事，同年曹丕稱帝，再封張遼為晉陽侯，增邑千戶，并前二千六百戶。
公元221年，張遼到洛陽皇宮朝拜，曹丕便引張遼會晤于建始殿，親問其昔日破吳時的情狀，張遼述說過后，曹丕向左右嘆息道：
“簡直是古代的召虎啊！”
于是，曹丕下令為張遼建造屋舍，替其母興建殿室，當年跟從張遼突破吳軍陣線、直沖孫權帥旗而臨時應募的一眾步卒，都被封虎賁。
公元222年，孫權再次向曹魏稱臣，張遼奉命還屯雍丘，卻在此得病。
曹丕遣侍中劉曄帶著太醫審視其疾，并令虎賁衛士們往來傳達張遼病況，為張遼問病的使者經常在路上互相遇見。
梁章巨《三國志旁證》中提到“漢三公病，遣中黃門問病，魏、晉則黃門郎，尤重者或侍中，張遼位未至公，而遣侍中，蓋寵之也。”
可見曹丕如何重視張遼，張遼之疾久未痊愈，曹丕命人把他接到自己的行營，自己則車駕親臨，握著他的手，賜給他御衣，太官每天來送御膳。