劉崇為拉攏人心，改為宗姓“劉”，被劉崇收為養孫，成為睿宗皇帝劉鈞養子，并為其改名劉繼業。
楊業武藝超群，勇冠三軍，先是擔任保衛指揮使，以功升遷到建雄軍節度使。“屢立戰功，所向克捷，國人號為‘無敵’。”
乾祐四年（951年），大將郭威將起程赴京準備即位的劉赟囚禁起來，推翻后漢政權，建立后周。
劉赟生父、河東節度使劉崇聞知郭威奪位滅漢，便在太原以十二州自立為帝，建立北漢，以此來對抗郭威的后周。郭威命宋州節度使李洪義秘密毒死了劉赟，從此，北漢和后周成為生死冤家，勢不兩立。
后周廣順元年（951），劉崇投靠中原王朝的死敵契丹，稱遼帝為叔，自稱“侄皇帝”，以換取契丹軍事上的支持。
楊信素與契丹不合，于是放棄與劉崇的合作，轉而投靠郭威，舉起后周的旗號。就這樣，父親楊信在后周，兒子楊業在北漢，父子二人各在敵國，從此再未相見。楊業的弟弟楊重勛歸附后周，擔任麟州防御史；宋朝建立，授建寧軍（麟州）、保靜軍（宿州）節度使，開寶八年（975）七月，楊重勛卒于任上。
楊業為報答劉崇的知遇之恩，到太平興國四年（979），楊業在北漢效力將近三十年，讓人遺憾的是，忠孝不能兩全，楊業只能盡忠不能盡孝。
楊業的弟弟楊重勛在后周滅亡后，便歸宋。大文豪歐陽修在楊棋墓志銘中，詳細記述了楊重勛一支四代的情況：“太祖時，為置建寧軍于麟州，以重勛為留后，后召以為宿州刺史保靜軍節度使。卒贈侍中。”
楊重勛的兒子楊光宋“以西頭供奉官監麟州兵馬，卒于官”。
光康長子楊琪，“生于將家”，“獨好儒學”，“初以父卒于邊，補殿侍。后用其從父延昭任，為三班奉職。累官至供備庫付使，階良青光祿大夫，爵原武伯”。
開寶元年（968）九月，劉繼元繼位北漢皇帝，趙匡胤乘北漢主劉鈞新亡之際，命昭義軍節度使李繼勛、侍衛步軍都指揮使黨進、宣徽南院使曹彬等率兵征伐北漢。
劉繼元命侍衛都虞候楊業與馮進珂帶兵扼守團栢谷，抵御宋軍，同時向契丹求援。
兩軍相持之時，同楊業、馮進珂一同駐軍的北漢將領陳延山率所部人馬投降宋軍，楊業、馮進珂二人自知寡不敵眾，率軍退回太原。宋軍很快奪取汾河橋，直抵太原城下，焚燒延夏門。劉繼元震怒，褫奪楊業、馮進珂二人的兵權。
十月，趙匡胤遣使到太原送去詔諭：若劉繼元歸附，可授平盧節度使；宰相郭無為可授安國節度使。郭無為得詔后異常興奮，勸劉繼元向大宋稱臣，劉繼元不肯。
十一月，遼軍兵馬總管塔爾率大軍馳援北漢，逼近太原。宋軍為了保存實力，撤兵回師。
開寶二年（969）二月，大遼皇帝“睡王”耶律璟被弒身亡。二月初八，趙匡胤任命李繼勛為河東行營前軍都部署，侍衛步軍指揮使黨進擔任副手，曹彬為都監，出兵北漢。
三月，宋軍包圍太原，楊業率數百精銳鐵騎襲擊宋軍，被宋將黨進所敗，楊業敗回太原城。