話說元天穆的大軍率領大軍向東行進，元顥的大軍正好乘虛殺入，自铚城（安徽省淮北市濉溪縣臨渙鎮）進拔滎陽（滎陽城），直至大梁城下。
大梁守將丘大千有七萬兵馬，分筑九城對抗。陳慶之從早上到下午，攻克三座堡壘。丘大干恐懼，打開城門投降。元顥于是進城，與諸將商議說：“吾想稱帝，然后率兵攻打皇宮，你們覺得如何。”諸位將軍都同意了，元顥在梁國城睢陽南燒柴祭天登基為皇帝,年號為孝基元年。任命陳慶之為衛將軍、徐州刺史，引兵向西，進攻滎陽。當時守滎陽的，乃都督楊昱。元顥派人勸他投降，楊昱誓死不投降。”
元天穆聽說報告大吃一驚，和驃騎將軍吐沒兒率領大軍三十萬，星夜前來救援。梁的士兵得知，都很害怕。慶之解下馬鞍喂飽戰馬，告諭將士說：“我自家鄉來到這里，征服了無數土地，屠滅了不少城池。我的戰士們，你們殺人家的父親兄長，搶人家的妻子兒女，數之不盡。元天穆的騎兵馬上要到了，我們是他們的仇人。我們只有七千人，敵人有三十萬，他們根本不會讓我們活下去。敵人是騎兵部隊，我們在平原交戰只有死路一條。在他們到來之前，你們必須打下滎陽，爬上那座高高的城墻。”于是擂鼓助戰，命將士登城功尖，將士們當即蜂擁著攻入城中。攻破滎陽后，楊昱諸將三百人，都被抓了，伏與元顥帳前。”
眾人說：陛下，望你殺了楊昱，滿足眾人心愿。元顥說：楊昱，忠臣啊，不過各位砌筑，只能殺了。于是斬了楊昱眾人，且他們的心都被挖了出來，不久，天穆等人率兵包圍城池。陳慶之率兵三千，將他們打敗。天穆、吐沒兒都跑了。于是乘勢攻打虎牢，守關將軍爾朱世隆也跑了。元顥大軍占領了虎牢關，一路無阻，游兵直指洛陽（洛陽城）。
當時天子強大的軍隊都出去了，天子害怕，想要逃跑，有人勸帝去長安，中書舍人高道穆說：關中地區荒涼殘破，怎么能去那里，元顥的軍隊不多，卻乘虛而入，為何，這是因為我們用將不當，所以才有今日，若是陛下親自率領禁衛軍，以重金招募，多加獎賞，背城與敵決一死戰，我等就是拼死，也會打敗元顥這支孤軍的。若是陛下害怕，不如度過黃河，命大將軍元天穆，大丞相爾朱榮各自率軍前來會合，構成犄角之勢，進討元顥的軍隊，一個月內，一定會取得勝利，這是完全之策。
皇帝采納了高道穆的意見，夜間，來到了河內郡郡城的北邊。令高道穆在燭光下起草了幾十張詔書，公告天下，于是四方才知道皇帝在哪兒。元顥得知逃跑，率兵直奔洛陽。臨淮王元或、安豐王延明率領百官，封存好官庫，準備好皇帝專用的馬車，出城迎接元顥。元顥進入洛陽，改年號為建武，大赦天下。任命陳慶之為侍中、車騎大將軍，增邑萬戶。元顥身邊的將軍侯暄鎮守睢陽，作為后援。行臺崔孝芬率兵功之，城破后被斬首示眾。
上黨王元天穆等率四萬軍隊攻下了大梁，又分派費穆帶二萬人攻打虎牢城，元顥派陳慶之攻擊費穆。元天穆畏懼元顥，打算北渡黃河，便對行臺郎中、濟陰人溫子說：“你想去洛陽，還是想隨我北渡流黃河？”
溫子說：“國主因虎牢失守，才弄得如此窘迫。元顥新來，民心還未安定，現在您如果前去攻擊他，一定會成功。大王您平定了京邑后，再奉迎皇帝大駕，這乃是齊桓公、晉文公才有過的舉動啊！現在您舍此而不為，卻要北渡黃河，我私下里真為您感到惋惜。”元天穆覺得溫子的意見很好，但卻不能采納，于是率軍渡過了黃河。費穆攻打虎牢城，眼看就要攻取了，聽說元天穆向北渡過了黃河，認為這樣一來自己便沒有了后繼援兵，于是便投降了陳慶之。陳慶之率軍進擊大梁、梁國兩城，群攻下了。陳慶之憑數千之眾，從城出發至洛陽，共攻占了三十二座城池，大小四十七戰，所向無敵。
魏軍聽說他的軍隊到了，魂都嚇破了；小孩聽到陳慶之的威名，也嚇得不敢出聲。費穆到了京城，元顥騙他入城，然后殺了他。他死了，元顥的下屬高興的不得了。敬宗害怕，帶著爾朱皇后逃走了，侍衛后宮皆安居如故。