在這樣兩頭不落好的情況下，冉閔的設想能實現嗎？在下達殺胡令的次年，冉閔登基稱帝，復姓冉氏，國號大魏，史稱冉魏。
石虎子孫三十八人，皆被冉閔所殺。冉閔雖然對羯胡人深惡痛絕，但是他所建立的冉魏政權依然帶有濃重的羯胡色彩。政治上實行胡漢分治，軍事上保留了部落兵制，就連冉閔的兒子也被封為大單于。
這樣的冉魏與當時士族風流的東晉王朝形成了鮮明對比，正統性不足是擺在面前最大的難題，無論是對內還是對外都沒有人愿意認同冉魏政權。
那么冉閔要如何解決這個問題呢？冉閔稱帝后不久，石虎的兒子石祗也自稱大趙皇帝起兵造反，各地紛紛響應，剛剛立國的冉魏政權一下就陷入內亂四起的局面。冉閔派人向東晉求救，讓東晉朝廷大為惱火。
無人禍亂中原，如今已被我擺平，如果你們想和我一起討伐，那可以派軍來幫我。言外之意就是想以中原皇帝的身份與東晉平起平坐，這對于東晉朝廷來說簡直是異想天開。
東晉一直自詡是華夏正統，與兩漢、曹魏、西晉一脈相承，對于在中原割據的北朝，無論胡漢統統都不予承認。
因此東晉不僅沒有派人支援冉魏，反而還出兵攻打冉魏的肥合，遷徙了當地數千戶百姓。同為漢人的東晉指望不上，冉閔又該如何應對石祗的進攻呢？
公元351年，冉閔率兵10萬攻打石祗的大本營鄴城，圍困百余日，死傷慘重。剛剛接受東晉冊封的燕王慕容俊，氐族首領苻健派兵救援。三方合兵10余萬，冉閔被殺得大敗，匆匆逃回了鄴城。
諷刺的是，慕容俊是鮮卑人，卻得到了東晉的承認，以大燕燕王的身份進攻冉魏。
而冉閔雖是漢人，卻得不到同時漢人的東晉認可。那么東晉為何會這么做呢？前面說過，東晉自視為正統，不承認北方的北朝。
但若是北方的胡人首領愿意向東晉稱臣，在名義上臣服東晉的話，那么東晉也會非常樂意地冊封他們官職爵位。而冉閔稱帝建國，還要與東晉平起平坐，這就挑戰了東晉立國的合法性。
正因為東晉是唯一的華夏正統，這個楊閔這個皇帝，那日后東晉北伐中原是收復失地還是侵略他國？
顯然同為漢人的樸素民族情感遠遠不如確保自身統治根基重要，因此東晉寧可支持稱臣的胡人首領，也不愿支持想與東晉平起平坐的漢人皇帝冉閔。
然而冉閔最大的悲劇在于他雖然有當皇帝的野心，卻無掃平群雄的能力。在敗退回鄴城之后，冉閔雖勉強滅掉了石祗，但是再也沒有能力應對慕容氏的大舉進攻。
冉閔窮途末路，單騎潰逃20余里，最終被慕容俊的將領慕容恪所擒，送到了龍城，惡行山斬首。
冉閔死后，方圓數里，草木枯萎，連續5個月都沒有下雨。慕容俊連忙派人祭祀冉閔，追謚武悼天王。
冉閔的失敗主要有以下幾點原因：