李淵起兵之初，急需招兵買馬，更需要后勤支持，尤其是糧草和兵器，這些物資都非常急缺。
為了支持李淵起兵，裴濟打開晉陽行宮的倉庫，將行宮中的40萬甲胄、9萬戶的糧食（約500萬石）全部調撥出來。并且，他還連同自己的全部家產都資助給了李淵。
可以說，此時的裴濟不僅是李淵起兵的主謀，還是李淵背后最有力的支持者。隨著李淵占領長安之后，楊侑被立為皇帝，李淵自任大丞相。
裴濟也被任命為大丞相府的重要官員，同時被晉封為衛國公，成為李淵最信任的人。然而，明眼人都知道楊侑只不過是個傀儡。
后來，在李淵的逼迫下，楊侑不得不禪位給李淵。但按照古代的禮制，在接受禪讓之前，李淵必須進行“三讓”的儀式，表示自己無意做皇帝。
這種行為當然是一種典型的形式主義。但問題是，如果不進行這個過程，以后會有人說他是亂臣賊子，名不正言不順。
所以，就算李淵心里再怎么急切，也得老老實實把這個儀式做完。而在這個過程中，負責率領百官勸進的就是裴濟。
隨著李淵登基稱帝，裴濟也被封為尚書省的長官，成為了大唐第一位宰相。并且，李淵也多次稱贊自己的這位老伙計裴濟是唐朝建立的第一功臣。
《唐書》記載，高祖李淵上朝時，裴濟可以同坐，并且還對裴濟言聽計從，親切地稱他為“裴堅”。
其他的開國功臣沒有人能與裴濟相比。于是，裴濟靠著與李淵的密切關系，成為了唐朝初年的第一紅人。
然而，縱觀裴濟的功績，雖然他無疑是開國功勛，但他作為大唐開國第一功臣顯然還是不夠的。因為在唐朝開國過程中，幾乎所有重要的戰役他都沒有參與。
他絕大多數時間都是和李淵一起坐鎮中樞。裴濟唯一的優勢就是跟領導李淵關系密切。最初，裴濟也知道沒有功勞傍身，自己也掛不住臉。
武德二年，劉武周入侵太原，于是裴濟主動請纓，率軍征討劉武周。然而，畢竟能力不足，在介休之戰中，裴濟直接全軍覆沒。
裴濟回到長安后，群臣激憤。李淵為了給眾人一個交代，立即將裴濟下獄問罪。但不久裴濟官復原職，重新回到李淵身邊。李淵也深知他不是當兵打仗的料，就沒再讓他統兵打仗。
裴濟身為宰相，在朝政上也碌碌無為，屢屢引起同僚不滿。例如，戶部尚書劉文靜就對裴濟十分不滿。
當初李淵起兵，最早是李世民和劉文靜謀劃，后來才邀請裴濟一起設下圈套，誘導李淵造反。裴濟和劉文靜曾經也是一對好兄弟，但論能力和功績，劉文靜遠勝于裴濟。
李淵稱帝后，裴濟的官職、待遇、賞賜都超過了劉文靜，引起劉文靜的不滿。一日，劉文靜在家中喝得酩酊大醉，醉酒后拔出寶刀對著柱子亂砍，聲稱要把裴濟碎尸萬段。
這件事被劉文靜的一個失寵小妾告發，說劉文靜要造反。李淵得知后，立即捉拿劉文靜，并且派裴濟、李綱、蕭瑀一起審訊劉文靜。
李綱、蕭瑀都認為劉文靜并無謀反跡象，連李世民也出面保全劉文靜。但裴濟知道后，卻向李淵進讒言。最后，李淵聽了裴濟的話，果斷將劉文靜抄家問斬。
裴濟當年勸李淵謀反，本身就是一個投機主義者。接下來，他又極盡手段，借李淵之手清除異己，劉文靜因此而死。
好景不長，玄武門之變后，李世民登基稱帝。俗話說“一朝天子一朝臣”，裴濟本身在繼承人問題上就偏向李建成，加上又殘殺了李世民的心腹劉文靜，此時他的好日子也到頭了。
不過，剛登基的李世民對裴濟還是很重視的，甚至還主動增加了裴濟的封邑。這倒不是李世民大度，只不過是他沒辦法而已。
因為李世民是以非法手段登基，當時唐朝內部不服他的人其實還有很多。為了穩固皇位，李世民不得不籠絡以裴濟為首的老臣。