殺了呂更始后，朱虛侯跑回北軍向太尉報告，太尉起身向朱虛侯拜賀說：“我們所擔心的就是這個呂產，因為他身為相國，又掌握著南軍，現在已經把他殺了，劉氏天下就安定了。”
而后，周勃便派人分頭把呂氏的男男女女全部抓來，不分老少，一律斬殺。
辛酉日，朱虛侯將呂祿抓獲斬首，用鞭杖竹板打死呂嬃。
之后，陳平便派人殺了燕王呂通，廢掉了魯王張偃。
這時，齊王劉襄也率軍來到了滎陽，發現灌嬰大軍駐扎于此，正要攻打，就發現灌嬰先派來了使者，說：“呂氏禍亂朝綱，我也是看在眼里的，現在齊王要入京勤王，我愿意和齊王一同入京。”
聽到灌嬰傳來的話，劉襄心里暗自搖了搖頭，表面上卻說：“潁陰侯深明大義，實在是劉氏忠臣啊。”
告別灌嬰的使者之后，齊王打算第二日通過滎陽，進入函谷，結果當天晚上長安就傳來消息，說陳平、周勃已經把呂氏子弟都給殺死了。
得知這個消息，齊王頓時焦急起來，又不敢丟下大軍獨自前往長安，于是讓瑯琊王劉澤先去長安，自己隨后就到。
瑯琊王對齊王裹挾自己軍隊的事懷恨在心，又因為呂姓妻子的緣故，與呂氏比較親近。
來到長安后，瑯琊王發現呂氏子弟都死在了動亂中，太宗皇帝卻并沒有阻止，于是就找到了陳平、周勃，說：“如今的皇帝、先帝、孝惠皇帝都不是劉氏血脈，乃呂氏子弟禍亂后宮所出。”
陳平和周勃很早就追隨高皇帝，對于孝惠皇帝、孝懷皇帝、太宗皇帝的血脈都了若指掌。
但二人都知道，此次誅滅諸呂的過程中，二人都沒有得到太宗皇帝的詔書，所以屬于矯詔，于是對瑯琊王說：“大王說的對，我們應該另立新皇。”
于是，陳平和周勃召集了朝中大臣，商議應該立誰為君，有人說應該選齊王，瑯琊王趕緊跳出來說：“不行！”
“瑯琊王的母舅叫駟鈞，是一個暴戾的人，如果立齊王，駟鈞就會是下一個呂產、呂祿。”
而陳平和周勃也不想立齊王，因為齊王兵強馬壯，不好掌控，于是就說：“瑯琊王說的沒錯，我們好不容易誅殺了呂氏，不能讓駟家成為下一個呂氏。”
百官問周勃：“那太尉以為，應該立誰為皇帝呢？”
周勃也不知道該怎么辦，就看向丞相陳平，陳平想都不想就說：“立代王。”
百官問其故，陳平就說：“代王是高皇帝的第四個兒子，是純正的劉氏血脈，又是在世的劉氏宗親中，年紀最大、為人最寬厚的。”
周勃也表示愿意迎立代王，因為代王的母親也沒有什么能力，代王也沒有兵馬，立了代王后，周勃和陳平就可以把持朝政。
與百官共同決定迎立代王，陳平便派人前往代地，告訴代王說：“如今的陛下是呂氏血脈，我們打算迎立代王；如果代王想做皇帝，就把呂姓的妻子和子女都殺了，然后來長安吧。”
代王得知消息之后，根本就不相信陳平周勃所說的話，于是委婉拒絕道：“陛下是孝惠皇帝的兒子，這一點朝中百官都清楚，我是無論如何，都不敢從兄長的后代手中搶奪皇位的。”
得到代王的答復之后，周勃大怒，派人前往代地，偷偷把代王的呂氏王后，以及代王與王后所生的子女擄走并殺害。
對代王卻說：“大王的王后和子女都被我接來了長安，如果大王想讓他們活命，就來長安吧。”
為了不讓妻女死去，代王只好前往長安，在代王抵達長安的第一天晚上，陳平周勃就強逼著朝中大臣，來到了代王的府上，奉上了皇帝玉璽。
代王本就沒有為君的意圖，看到玉璽，連連搖頭拒絕，陳平和周勃只能帶著百官離開。
陳平問周勃：“代王不愿意接下玉璽，如果知道了妻兒的事，該怎么辦？”
周勃說：“明天把代王接入宮，正式成為皇帝，再讓周、陳兩家的女兒做皇后，我們就可以把持朝政了。”
陳平同意之后，便帶著周勃回到了丞相府，召集百官說：“明天早上，我們就把代王接入宮里，今晚，就該把呂氏的血脈全部掃除干凈了。”