裴行儉出身于世家大族，屬河東裴氏中眷房。
其祖先出自嬴姓，是皇帝后裔伯翳的后代。
其父裴仁基，曾任隋朝左光祿大夫，隋末亂世與長子裴行儼于洛陽被王世充所殺。
唐朝追贈其為原州都督，謚號為忠。
裴行儉年幼之時，憑借門蔭得以進入弘文館成為生員。
貞觀中期，參與科舉考試，以明經中選進入仕途，初仕為左屯衛倉曹參軍，獲得大將軍蘇定方重視，得以傳授其兵法。
后轉任雍州司士，累遷為金部員外郎與戶部員外郎。
“顯慶二年，晉升為長安縣令。”
“高宗李治廢黜王皇后、冊立武昭儀時，裴行儉與太尉長孫無忌和尚書左仆射褚遂良私下議論此事，認為國家憂患必然會從這里開始。”
“大理寺卿袁公瑜將此事密報于武昭儀之母楊氏，裴行儉因之貶黜為西州都督府長史。”
“后改任為金山副都護，麟德二年，累遷為安西大都護，與西域從政七八年時間，注重教化，注重經濟發展與民族團結，西域諸國慕義選擇歸順唐朝。”
“因政績突出，裴行儉被高宗李治召回京城，升任同文少卿，不久后提升為司列少常伯。”
“咸亨初年，恢復舊官名為吏部侍郎，與李敬玄和馬載一同擔任官員選拔的工作，以能吏著稱，被人們稱為裴李、裴馬。”
“唐初，新舊制度并存，官場較為混亂，裴行儉大膽創新，進行人事制度改革，創造長名榜、銓注等方法。”
“規定州縣官員升遷、資歷高低的標準，以此進行官員選拔，該辦法被后世沿用下來，影響深遠。”
“上元三年，吐蕃進攻唐朝邊疆，裴行儉被任命為洮州道左二軍總管。”
“不久，改任為秦州右軍總管，接受元帥周王的統一調度。”
“儀鳳二年，十姓可汗阿史那匐延都支以及李遮匐，聯合周邊少數民族部落，進攻安西，并與吐蕃結為聯盟。”
“朝廷準備派兵征討，裴行儉上書建議高宗李治利用護送波斯王子泥涅師回國之際，途中趁機偷襲，可不勞而功。”
“于是高宗李治命令裴行儉護送波斯王子泥涅師回國繼承王位，并擔任安撫大使。”
“途徑莫賀延磧沙漠時，飛石遮天，向導迷路，將士們饑餓困乏。”
“裴行儉命令護送隊伍安營并虔誠拜祭，告訴將士們水源在不遠處。”
“不久，云散風停，前行數百步便是水草豐美之地。”
“裴行儉途徑曾任職的西州時，官吏百姓夾道歡迎，裴行儉召集一千多豪杰子弟相隨。”
“并揚言天氣炎熱，要等天涼后再西行，十姓可汗阿史那都支知曉后便沒有設防。”
“于是裴行儉召集龜茲四鎮酋長，想要一起前往狩獵，共有近萬子弟愿意相隨。”