當此之時，隋末蜂起的各路反王大多已經煙消云散，梁師都、高開道、徐圓朗之輩或僻處邊疆，或滅亡在即，唯一還能對李唐構成威脅的就是杜伏威了。
杜伏威自然明白李世民的用意，心中十分不安，擔心成為李唐下一個進攻目標。為免嫌疑，杜索性上書李淵，請求入朝。
李淵收到報告后自然高興，批準杜伏威入朝，于是杜將江淮軍交給義子王雄誕，自己帶了少數親信于當年七月到長安朝見李淵。
杜伏威的主動獻忠心讓李淵很是滿意，同時也是為了在天下人面前做個樣子，李淵加封杜為太子太保，位在齊王元吉之上。
但他們卻將同樣是江淮軍的創始人，輔公佑給忘了。這不，杜伏威是離開了，但輔公佑還牢牢掌握著江南半壁江山的軍政大權。
輔公祏畢竟不是甘心雌伏的人，杜伏威一走，他就和左游仙密謀發動兵變。
輔公祏唯一的障礙就是王雄誕，王是杜伏威的義子和最寵愛的大將，絕對忠于杜伏威，王手握江淮軍軍權，不除掉他兵變就不可能成功。
輔于是使出反間計，偽造了杜伏威的筆跡寫信給王雄誕，信中無緣無故地責備王雄誕有貳心。
王雄誕為避嫌，就在家中休養。但之后輔公佑又偽造杜伏威親筆信，說他在長安收到虐待，要他和輔公佑一起起兵反唐。
到了這時，就是傻子也明白自己被騙了，但大勢已去，只能徒呼奈何王雄誕盡忠于杜伏威，嚴詞拒絕了輔公祏的勸降，終被輔公佑殺害。
自己的舊部造反，杜伏威在長安的日子自然可以想象，歷史中倒也沒有記載李淵是否因此而怪罪或處分杜伏威，但寄人籬下如坐針氈的滋味恐怕是免不了的。
武德七年二月，杜伏威在長安暴卒，死因不明。史書記載是杜伏威好長生藥，誤服云母中毒而死，只怕中毒是有的，但如何中的毒就很難說了。
對于杜伏威的死，大家都沒有任何意外。
對你個已經沒有任何價值的人，以李淵的性子，能容得下他才怪加上杜伏威身居高位卻不懂收斂，出行數百上前護衛相隨，不被人記恨才怪呢
杜伏威已死，也徹底坐實了之前輔公佑說他在長安受虐待的事，這下想不造反都不成了。
軍中將士群情激憤，誓要為吳王報仇，這正好應了輔公佑的心思。于是殺掉李淵派到軍中的官員祭旗，開始了反唐之路。
武德七年，春，唐軍以趙郡王李孝恭為帥，李靖、李績、闞陵為將對輔公祏發起總攻。
這個闞陵也是杜伏威的義子，與王雄誕并稱雙雄，杜伏威入朝時與杜同去長安，因而逃過輔公祏的兵變。
闞陵在江淮軍中以勇武著稱，平時負責軍紀，有違反者無論親疏一律法辦，因此在江淮軍內威望極高。
兩軍對壘時，闞陵直接沖過去，摘掉頭盔向對方大喝，“汝不識我邪何敢來戰“江淮軍軍心散亂，甚至有就此投降的。
唐軍兵強將勇，輔公祏連吃敗仗，終于在武德七年三月投降，隨后被處以死刑。