病情稍有好轉后，張遼便返回其屯軍之所駐軍，忠于職守，正當其時，孫權再次背叛曹魏，曹丕派張遼乘舟，與曹休到海陵臨江駐防。
孫權知張遼至此，甚為忌憚，敕令諸將道：
“張遼雖然抱病，但仍是勇不可當的，千萬要謹慎在意！”
同年，張遼與王凌等人進軍至廣陵，一天夜里，呂范等人的東吳水軍漂至北岸。
張遼與王凌等人出戰，大破吳將呂范等人，并繳獲了大量舟船，但張遼的病情卻也日漸嚴重，最后終于在江都逝世，一代名將就此隕落，曹丕為之流涕，謚曰剛侯，其子張虎嗣任其爵。
“文遠將軍，我家主公一到蕩陰城，沒有休息片刻，馬不停蹄就來看你了......”
辛棄疾一邊嚷嚷著，一邊走進大帳之中，張遼聞言趕緊快步走出來迎接。
“公孫將軍想見末將，讓人前來喚我前去便是，將軍旅途勞累，不敢勞煩親自此處！”
眼見公孫越果然親臨大帳，張遼不由誠惶誠恐，畢竟自己只是聲名不顯的小將，而公孫越已經是雄據兩州的一方大諸侯。
“文遠將軍，只要是金子總會發光，只要是尖錐總會破袋而出，將軍只是缺少一個大平臺而已。
若不是有將軍前來，漢臣他們也不會贏得這么輕松，據兗州探馬來報，呂將軍在兗州士人的支持下，諸郡紛紛棄暗投明，如今曹操只剩東阿三縣，文遠宜速帶兵前去助呂將軍一臂之力！”
得知兗州的情況之后，張遼即刻命士卒去做準備，這一晚公孫越和張遼徹夜長談，一直到天明時分才依依惜別。
“文遠，若是哪天呂將軍那里待不下去了，我這里的大門隨時為你敞開，目前三郡未定，實在無力出兵與你們共擊曹操。
不過你可以放心，我會立即手書一封，讓坐鎮聊城的劉玄德和坐鎮樂平的徐榮、徐晃二位將軍，與你一起從后方威脅東阿。
至于最后能否功成，那就要看你們了，我會在鄴縣等著你們的好消息，希望你們能擊敗曹操。”
“公孫將軍，如果有一天真在呂將軍那里待不下去，您一定會是我的第一選擇，告辭！”
目送張遼離去之后，公孫越回到蕩陰城內，留辛棄疾為主將，管亥與蔣奇為輔，領幽武卒第一軍和虎賁軍第一軍坐鎮蕩陰，其余兵馬則返回鄴縣。
眼看魏郡、陽平郡已經被破，廣平郡很快也派人請降，公孫越自然滿盤接收，派朱靈前往廣平郡坐鎮。
如此一來魏郡、陽平郡和廣平郡全歸帳下，冀州11郡總算落到公孫越手中，冀州刺史之位總算名正言順。
“漢臣，以后就要靠你坐鎮魏郡了，總督魏郡、陽平與廣平三郡政務和軍務，元凱先生也會留在這里助你一臂之力。
魏郡、陽平與廣平三郡是進入兗州和并州上黨郡的橋頭堡，戰略位置非常重要，等戰事結束之后，將袁軍家人送歸袁軍，換回黎陽重鎮。”