同年，高句麗屯塞坐原，屢犯之。太祖憂之，乃召漢胡萬眾。十二月，過遼河，曰之冬狩。至坐原，太祖親持白馬旗督之。婁圭獻計，一夜起冰城，敵眾見而失據。復以徐榮將騎，一鼓而下，乃大破之，遂亡其國。
后漢光和二年春，太祖以滅高句麗殊勛，封無慮亭侯。無慮者醫無閭也，令支都亭，與名字相合，時人稱美。遷邯鄲令，再遷中山太守。
太祖素重簡樸，為政清厲，后漢光和年間，太祖為長吏行政，常有急令，左右諷之。太祖乃曰：“天下漸沸，士民如在釜中，吾觀之，如己身在釜中，安的不急？”遷涿郡太守。涿郡豪右者，以奢侈無度聞于天下。及得太祖將至，豪右咸皆震怖，奸宄遁逃，竄入他郡。太祖速至，于道旁逢之，凜然斥曰：“爾輩者，入他郡便得安否？”豪右奸猾知其神武，皆惶恐，乃各自歸郡，復膝行請罪。一郡遂安。
后漢光和末，張角兄弟領黃巾起，廣陽黃巾三萬眾圍涿城，太祖為涿郡守，見敵至城下立寨，乃引公孫越、劉備、關羽、牽招、張飛、魏越、婁圭、楊開，凡二十騎出城，透賊寨而還，賊不能傷也。及入城門中，眾將自矜夸斬獲不止，獨太祖不言。待諸將噤聲，太祖乃昂然曰：“既窺虛實，已得破敵策也，五日賊當覆，且觀之。”乃行疲敵之計，后果五日覆之，眾乃拜服。
時張角弟寶以賊五萬眾圍范陽，太祖既破當面賊，即欲馳援之。左右曰：“范陽大城，又郭刺史居于其中，不至速失，可休兵數日，復伐之。”太祖對曰：“即以刺史在彼，故云范陽得失，乃勝負之要，焉能不救？”乃速發兵，十日破之。
太祖既破張寶，復以社稷重，自請提三千騎，以馳河北。靈帝許之，乃詔太祖入洛。太祖乃集幽燕騎三千，直趣南下。至洛，拜五官中郎將，以騎都尉曹操輔之，持節駐河內，并督三河五校。旬日出東郡，即破白馬、燕縣、韋鄉。太祖既伐黃巾至東郡，聞濟陰有士名李進者，素知詩書，乃殫夜而往辟之。李進感其德厚，逢太祖克城勤苦，乃慨然舉族而助。
五月，先破兗州黃巾賊卜已、梁仲寧、張伯眾四萬于蒼亭，又破其眾二萬于東武陽，計獲首自張伯以下萬余級，降萬余，赴河死者自卜已、梁仲寧以下，凡七千眾人。東郡乃平。
太祖既入東郡，搜賊者，得錢鉅億，其以家富，盡分軍糧于民，散財帛于軍。上下遂稱其德。中常侍趙忠聞之，自以后從父名，遣家人往東郡求財貨。太祖曰：“無一文錢與宦者。”
太祖既平東郡賊，旋赴長社。城中左中郎將朱儁、右中郎將皇甫嵩引軍四萬，賊波才眾十萬，圍之。太祖知不可攻，乃與儁、嵩約用火，遂覆十萬賊眾。
七月，臨下曲陽，賊以寶為首，據滹沱河，與太祖相峙。太祖發三路，自領一路渡滹沱，以張頜戟兵兩百為前驅，先登過河。敵熾，不得進，乃令義從呼喝：“五官中郎將向前五十步！”俄而，再喝：“五官中郎將向前百步！”漢軍聞之奮氣，一前在前。三喝：“五官中郎將已向前兩百步！”賊之陣轟然崩，遂破下曲陽，獲寶首。
九月，臨廣宗。同月，張角死，南陽漸平。遂與嵩合，進廣宗，張梁惶而走。太祖發騎兵與漳水，克梁，獲其以下首三萬級。黃巾遂平。
十月，太祖以功至衛將軍、薊侯、領河內太守。時河內屢遭匪患，聞太祖至，盜賊逃匿，士民鼓舞，沿途見白馬轍簞瓢迎之。
中平初，太祖為河內守，春社日，令郡中名士辯經于縣北射犬，以敬時節。其儉不著仆役，乃使司馬朗為從，長公主年幼，遂親抱于懷步行于道。既至，購陶器于射犬市中，復于辯經處席地坐，置長公主于膝。于時，太史奏曰：“真龍北行也。”