后來，因為立了軍功，授官職為都督，新安太守，慢慢地提升到儀同三司，世襲新義郡公。
北周武帝宇文邕攻打北齊時，北齊將領獨孤永業鎮守金墉城，韓擒虎說服他投降，進軍平定范陽，他又被加授上儀同，授官職為永州刺史。
南陳軍隊逼進光州城，韓擒虎以行軍總管之職打敗了他們，又跟從宇文忻平定合州，楊堅做丞相后，他為合州刺史。
陳將甄慶、任蠻奴、蕭摩訶等互相聲援，多次侵犯江北，先后侵入北周邊界，韓擒虎多次挫敗他們的銳氣，使南陳士氣大喪。
公元581年，隋文帝楊堅暗中懷有吞并江南的志向，認為韓擒虎有文武之才，平素很有名氣，于是就授他為廬州總管，委韓擒虎以平定南陳的重任。
公元588年，隋文帝大舉伐陳，以韓擒虎為先鋒，他率領五百士卒夜里渡江，襲擊采石，守城的陳軍都醉了，韓擒虎于是就攻取了它，進攻姑蘇，半天時間就攻了下來，緊接著又奪取了新林。
楊廣派遣行軍總管杜顏與韓擒虎會合，步兵和騎兵達兩萬人，這時，陳叔寶派領軍蔡征鎮守朱雀航，聽說韓擒虎將到，眾士兵因害怕韓擒虎而潰逃。
任蠻奴被賀若弼戰敗，丟下軍隊向韓擒虎投降，韓擒虎以精銳的騎兵五百人直攻朱雀門，南陳士兵打算迎戰，任蠻奴指著他們說：
“我尚且投了降，你們還干什么！”
大家都紛紛潰散逃走，于是平定金陵，活捉了陳后主陳叔寶，當時賀若弼也有一部分功勞，于是隋文帝就下詔對楊廣說：
“這兩個人深謀大略，在東南防備侵犯之敵，我本委任他們，平定東南，安撫百姓，一切都跟我想的一樣。
九州不統一，已經有幾百年了，憑他們這些名臣的功勞，來完成太平盛世的大業，天下大事，還有什么能超過這些呢？
聽到這情況感到很欣慰，實在是很高興，平定江南，是這兩個人的力量啊！”
于是賞賜絹帛萬段，隨后又下詔對韓擒虎、賀若弼二人說：
“你們揚國威于萬里之外，宣揚教化于江南一隅，使東南百姓從水深火熱中擺脫出來，幾百年的敵人十來天的時間就清除干凈，這只是你們的功勞啊。
你們高高的名聲塞于宇宙，昌盛的大業顯耀于天地，遠聽前世古人之事，很少與你們能夠匹敵，軍隊凱旋，知道為期不遠了，我很想念你們，度日如年。”
等到回到京城，賀若弼和韓擒虎在隋文帝面前爭功，賀若弼說：
“我在蔣山殊死作戰，打敗敵人精銳的部隊，活捉敵人的勇將，威風大振，于是平定陳國，韓擒虎并不怎么與敵人交鋒，怎么能與我的功勞相比！”
韓擒虎說：
“我奉晉王的指示，讓我和你的軍隊合在一起，來攻打陳國都城，你賀若弼竟敢在我前面冒險出兵，一遇到賊人就展開戰斗，致使將士們死傷很多。
我帶領精銳的騎兵五百人，武器不沾血，就攻下金陵，使任蠻奴投降，捉住陳叔寶，占據他們的府庫，把他們的巢穴都傾覆了。
賀若弼到晚上，方才叩響北掖門，我打開城門接納他，他連補救罪過都來不及，怎能與我相比！”