公元960年，趙匡胤發動陳橋兵變，掌握了后周政權，并將國號改為大宋。曹斌于次年歸趙，趙匡胤問他當年為何有意疏遠他。
曹斌回答：“作為后周的近親，更要端正做官，所以不敢妄自結交，以免招來非議。”
趙匡胤對于他的回答非常滿意，于是委以軍事重任，并在963年受任為左神武將軍。
趙匡胤雖然建立了大宋，但在當時依然存在著后蜀、北漢以及南唐等政權。趙匡胤于是在964年下詔伐蜀。身為都監的曹斌曾經下令諸將收斂部下，堅決禁止屠害百姓的行為。
趙匡胤為此特地下詔褒獎。但是后蜀滅亡之后，一些將領開始不停地掠奪百姓，對于曹斌的勸說一概不聽，結果導致后蜀的舊將迅速聚集了十幾萬人對抗宋軍。
雖然曹斌平定了此次戰亂，但也造成了很多不必要的損失。眾將在回朝之后均被治罪，只有曹斌受到了趙匡胤的嘉獎。
974年，趙匡胤決定向南唐發動進攻，不過這次進攻的主要目的是爭取一個完整的南唐，不僅要得到南唐的土地，還要獲得南唐的民心。
曹斌于是在公元974年10月擔任主帥，采取圍而不攻的策略包圍南京，壓迫南唐國主李煜盡快投降。
經過一年的包圍，南唐的外圍主力和內部物資的消耗已經非常嚴重。曹斌于是決定在975年11月對南京發動總攻。
不過曹斌非常清楚，眾將經過一年的軍事行動已經非常憤怒，破城之日必然大肆屠城，而趙匡胤想要的并非一座死城。
曹斌便在部署之日故意稱病。隨后各位將領入帳探訪，但是見到曹斌之后非常疑惑，因為眼前的主帥絲毫沒有生病的樣子。
曹斌于是告訴眾人說自己得的是心病，他擔心士兵在城破之日燒殺淫掠，這樣一來便無法完成皇命，更是愧對于那些無辜百姓。
大家對于曹斌的言語非常感動，于是紛紛表示遵照，并在曹斌的要求下約法三章：除了禁止殘害城內的百姓之外，對于南唐的君主也不得無禮。
次日，南京果然被宋軍攻陷，南唐的李煜要被送到開封府。曹斌在南唐的宮廷之外，做了一件感動全場的事情。
他非常清楚李煜到了開封之后將會過上寄人籬下的生活，國家給予的俸祿并不高。于是讓李煜在啟程之前盡可能帶走金銀財寶，并且為他專門組織了運輸隊伍。
否則南唐一旦被宋軍接管，那么這些財物將不能再動分文。不過已經亡國的李煜并未如此，唯獨帶走了一些生活用品。
當年燕云十六州被五代后晉的石敬瑭割讓給了契丹，這對中原王朝不僅是個莫大的恥辱，而且使得契丹可以毫無阻礙地長驅南下，同時還聯合北漢政權對付中原。
曹斌曾在968年跟隨趙匡胤攻打北漢，并且獲得過幾場勝利，只是礙于契丹的援助，無果而終。
公元976年，趙光義繼位，他在繼位之后依然準備消滅北漢，并與任職在樞密院的曹斌商討。
曹斌對此做出了非常詳細的分析，認為大宋以現在的軍力完全可以戰勝北漢。
趙光義于是決定御駕親征，率領曹斌和潘美等主力部隊圍攻北漢的太原。同時根據太祖當年的失敗經驗，派軍在石嶺關防御著契丹的援軍。
此戰契丹派出的援軍遭遇大敗，軍中的北漢使者被宋軍俘虜，然后押送至太原城下斬首。
北漢得知援軍無望，內部大亂，君主劉繼元只能開城投降，北漢至此滅亡。
而對于這場戰役的勝利，曹斌的分析和建議起到了非常關鍵的作用。</p>