曾出仕北齊，為北平王兵曹從事、高平王文學。
北齊滅亡后，他仕周，被時為定州總管的楊堅召為記室。
入隋，楊堅朝時，他以滅陳主將楊廣元帥府記室的身份，參與了開皇八年的滅陳一戰；開皇十年，他奉詔巡視嶺南，時高智慧、汪文進等叛亂於江南，通路不通，他聚兵卒數千，與大將軍鹿愿，先解衡州之圍，繼於大庾嶺、原長嶺屢破叛軍，一路打到南海，成功地安撫了嶺南二十余州，使南疆重歸安定，由此之功，深得楊堅贊揚，得授開府，賜爵聞喜縣公。
當時突厥強盛，而都藍可汗之妻大義公主是北周的宗室女，於是突厥數為邊患。開皇十三年，裴矩請求出使突厥，以巧言說動了都藍可汗，使其殺掉了大義公主，減少了一些隋室的外患。歷楊堅一朝，他相繼出任過給事中、民部侍郎、內史侍郎、尚書左丞、吏部侍郎等職。
待到楊廣繼位，因西域各國商人多來張掖經商，詔命他專管其事。
裴矩在出掌西域通商的這個差事上，干的更是不錯。他知道楊廣有吞并西域的念頭，就利用他收集到的資料，編撰了《西域圖記》三卷，介紹了西域四十四國的國情，同時還繪制了地圖，標出了從敦煌到達地中海的三條大道，便是后世歷史上有名的“絲綢之路”。
簡而言之，裴矩此人，確實是個文武兼資的能臣，能文能武，還有外交才能，膽識出眾。
崔君肅、何稠等，在名聲與能力上，不如裴矩，但也都各有其長。崔君肅亦是個歷經周、隋兩代的老臣，周時出仕，起家為道王宇文充的侍讀，后出任潁川郡守，入隋后，歷任司隸大夫、太常少卿，以清廉著稱。何稠則擅長工藝，博覽古圖，多識舊物，仿制過波斯所獻的金綿錦袍，既成，逾所獻者。時因戰亂不斷，制作琉璃的手藝已失傳很久，匠人無敢厝意，何稠以綠瓷為之，與真不異。并且，何稠的才華不僅在工藝上，更在軍事建筑上頗有展現。大業八年，第一次征討高句麗，楊廣令何稠在遼水上造橋，兩天而成；何稠還設計制造過“行殿”、“六合城”，一夜之內在前線合成一座周圍八里、高十仞的大城，四隅有闕樓，四面有觀樓，城上布列甲士，立仗建旗。次晨，高句麗人看見，驚奇以為是神功。
……
卻魏征話音方落，一旁的薛收也站了起來。
他面容儒雅，氣質沉穩，聲音平和，但帶著不容置疑的力量：“長史所言極是。大王，臣附議。誅首惡，赦脅從，用其才，方乃上策。裴矩諸輩，俱非首惡，自宜赦免其罪，使其戴罪立功，既顯大王寬宏，亦能穩定人心，揚大王仁望。”他頓了頓，目光掃過馬周，“而如王軌、蘇威，雖其行不可取，既降大王，更宜以德化之，若反加屠戮，其后誰敢再降？”
“薛君言之在理。”屈突通遲疑了下，起身行禮，說道，“大王，臣冒死敢言，設如馬周所議，當斬者，何止裴世矩、崔君肅、何稠諸人？臣與薛公等亦當斬！臣與薛公等亦曾事隋，受隋恩。今臣等雖順應天命，撥亂反正，但若論罪當誅，臣等豈敢偷生？大王明鑒，於今亂世，人才難得，若一味追究過往，恐寒俊杰之望，唯有寬恕之心，方能感召天下英才。昔日漢高祖不計前嫌，終成大業，臣敢進言，今日大王宜當效仿，以仁德服眾，才為大業可成之策。”
要論“干凈”，在場諸人，干凈的只有兩個，一個馬周、一個薛收。
他倆都沒出仕過隋。
其余諸人，誰個不是隋的舊臣？
屈突通與裴矩等都相識、相熟，他這話，是為裴矩等開脫，也是為自身考量。
——這些話，薛世雄其實也想到了，只是他不如屈突通有膽色，沒敢說。在聽了屈突的這話后，薛世雄臉皮漲紅，一再覷視李善道。很明顯，他是在偷察李善道對屈突通此話的反應。