大敗之后，士氣低落，又糧草軍械不足，后路不穩，的確是該撤退了。當下劉賢與陸遜、史阿、張任、霍峻等人商議之后，決定先繼續往東撤往魯郡，一路食用彭式從泰山郡帶來的糧草，如此當可勉強支撐。
啟程的同時，劉賢派出信使向各處傳報自己平安的消息，同時低調地將戰敗的情況告知幾處戰場的統帥，叫他們審時度勢，適當轉攻為守，不要冒進。又去信給守尚書令劉巴、荊州刺史黃權等人，叫他們立即調派一批兵器鎧甲弓弩箭矢等軍資至徐州應急。
又特別傳令給留守彭城的黃忠和進擊平原的魏延、郝昭、趙累等人，叫小心戒備，切莫被曹軍突然增調援兵來擊敗。
趕往魯郡的這一路上，劉賢也陸續收到了后續戰況，當日落大軍趕到成陽時，落在后面的還有二萬余民夫，陸遜率領的青州軍也還有七八千民夫在后面，洪水來時，這些民夫大多都收到了劉賢發出的示警令，都轉移到了高處，但逃跑不及，卻也多被洪水困住了。
雖然被困的民夫在次日便收到劉賢之令，叫捆扎木筏自行逃走，但仍舊損失極多，尤其是沿途的一些地方豪強武裝眼看著魏軍掘開黃河，水淹漢軍，震驚之余也認為漢軍此次必定會大敗，于是膽子一下子都雄了起來，居然開始揮軍襲擊分散在各處的民夫。雖然眾民夫手中也有短槍短劍等兵器，有一定的戰斗力，平常時候未必便怕了豪強私兵，但如今畢竟遭遇了水災，混亂驚慌之下，復又被眾豪強私兵襲擊，水災加上兵禍，一下子損失慘重。
從徐州方向來的民夫最終安全退回彭城的僅有一萬六千余人，從青州來的民夫遭受了水災、豪強私兵、曹軍騎兵的三重打擊，損失尤其嚴重，安然退回去的更是僅有三千余人。
換言之，在這一場大敗之中，劉賢損失的民夫達到了近萬人，總計損失兵員民夫不是原來統計的三萬，而是足足四萬人。
劉賢的心情越發沉重，及至兼程退到魯郡之后，劉賢復與眾將商議道：“此次大敗，我青、徐二州兵馬損失極其慘重，特別是石炮、大黃弩、蹶張弩等重型軍械的損失，使我們基本失去了與曹軍野外列陣而戰的能力。唯今之計，只有暫且休養，積蓄軍資，以圖再戰。我們在青、徐二州轉攻為守，諸位以為如何？”
陸遜聞言，點頭道：“經過這幾天斥候打探得來的消息，曹軍掘開黃河，其河水主流經過巨野澤進入泗水水系，隨后一路南下，經金鄉、亢父、任城、湖陸、沛縣、廣戚、留縣至彭城，隨后進入泗水主干道一路南下，在睢陵、盱眙一帶進入淮河，流經上千里，其最寬處不下一百六十余里，最窄處也有四十余里，形成了廣闊的黃泛區。彭城往下也還罷了，畢竟泗水主干道也極為寬闊，能容納得下滾滾而來的河水，并未造成漫溢，危及兩岸農田房屋。但彭城往上，因故河道狹窄，容納不下滔滔河水，故此漫溢嚴重。此次受災之地，也多在這里。不過我軍雖因黃河決口而大敗一場，但也并非全無益處。至少有這洶涌的黃泛區阻隔，我軍駐守在彭城的水師頓時能夠發揮出最強大的戰斗力，徐州有陳應、鮑隆這一萬水師把守，可以算是安穩了。現在最危險的，反倒是青州和淮南。曹軍大勝之后，其主力必不會停留原地，多半會繼續進擊。倘若其揮軍南下淮南，以我們如今在淮南的兵力，恐怕無法抵擋啊！”