之葬，说动中常侍张让、赵忠等，复为大长秋、尚书令，节制羽林、虎贲两军，其势更炽。翌日，四公以谋逆罪下狱，旋遇害。太祖时在城外，闻讯急回，擒节弟破石为质，自至尚书台独会节，迫其赦四公家眷。时桥玄在侧，见而赞曰：“文琪内刚而外刃，锋利为天下冠”。审配时为陈球家臣，因之归心于太祖，甘为驱驰，太祖亦视其为股肱。节归家，喟然叹曰：“吾老矣！天下昏昏，能全我家者，必此子也。”乃遣人送女孙至太祖处。赵皇后知之，遂往魏郡节族中下聘，求为太祖侧室，即冯夫人也。
光和元年六月，灵帝开西园，朝廷凡授官，皆以秩纳钱。太祖恰出为辽东襄平令，闻之大怒，自尚书台奉书即行，曾不稍顾。张让、赵忠，面面相觑，竟不敢问。行路中，闻曹操弃职返乡。太祖与操志趣相仿，素与之善，又思沛国乃文皇后故乡，遂携娄圭、韩当，轻骑至谯县谒之。操亲族曹仁、曹洪、夏侯惇、夏侯渊等，俱一时良才，与太祖相见亲切，乃共议时局，相为激励不可失丈夫青云之志。初，有黄龙现于谯。后三年，太祖与操共浴于涡水，复遇毒蛟，杀之。操妻丁夫人素贤，闻太祖尚无嗣，乃选己家乐姬颜色最好者赠之，太祖纳为侧室，即卞夫人也。太祖与操辞别，闻北海王修有贤名，专往访之，求为幕僚，遂浮海至辽东。
太祖自诛杀王甫，面斥曹节，声名日显，渐为天下重。襄平长吏受取贪饕，依倚贵势，历前令不见举；闻太祖至，一日尽去。于是政教大行，一县清平。辽东边郡，夷狄丛生，杂胡或百十为聚，或上万为国，然俱慕王化，向往中国。唯高句丽自矜部众蕃庶，山河险固，有进取辽东，宰割塞外之念，故长以汉为敌国。辽东百姓，颇受其苦。太祖履任，即欲为民除此大害，尚未定策。适高句丽亦欲图汉，仿马邑之谋，遣其国贯那部贵人至襄平，诳言其王老衰，诸部争位，欲请太祖率汉军为援，将以有报也。太祖洞烛其奸，伪与之盟。俟冬日，尽发辽东民团，又遣公孙越、公孙范往募诸部杂胡，整军八千余，自备粮秣，往攻高句丽。公孙氏旧吏玄菟郡别部司马徐荣，壮太祖之举，自引本部千五百精骑往助。将发，赵皇后遣家人送白马旗至，以做激励，众皆以为吉。
高句丽屯塞坐原，连营十一，凡十余年汉军屡不得下，边境苦之。军至，太祖令速攻，众皆以为不可。太祖曰：“汝等未解兵法之妙！”，遂严令韩当为先锋，急攻之，贼惶恐大惊，以至中军刚至，前军已破二营。太祖遂令兵马不驻，直趋向前，又亲持白马旗，督师至敌营门前而坐，敌当即大溃，全营尽失。众将叹服，皆以为当乘胜追击，长驱直入，请于太祖，太祖曰：“高句丽，大国也。坐原虽失，精兵未损。且关山险远，后勤艰难。以孤军入险境，吾不为也！”遂令全军加筑营垒，严守不出。凡五日，高句丽倾举国之兵五万来攻，汉军据垒坚守，激战三日，贼死伤惨重，粮矢将尽。审配自玄菟郡率四千军来援，贼无奈退兵。太祖拜荣为骑兵司马，总揽全军骑军七千，效鄢陵之战，撤帐平灶，立骑阵于营中，复推倒营墙，直出敌阵。贼左相于畀留率万众相迎，一触而溃，汉军追陷溃兵直入贼营，复穿营而过，辍贼大众之后，日夜不休，贼遂大溃。太祖发全军追斩高句丽莫离支明临答夫以下万余级，直至其王都五女山城，一鼓下之，遂亡高句丽。以其国青壮俱丧，老幼无所依，乃迁其遗民数十万口于辽东、辽西、玄菟、昌黎、乐浪诸郡以活之。及班师，朝廷得捷报大喜，以殊勋，封太祖无虑亭侯，迁赵国邯郸令。无虑者医无闾也，令支都亭，与名字相合，时人称美。
太祖为邯郸令，会河内名士向栩为赵相。栩性素卓诡不伦，及到官，略不视文书，日夜但坐于榻上，或长啸，或高卧，乃至舍中生蒿莱。太祖入内，与之言语，三言即走。左右怪而问之，太祖叹曰：“使汉室亡天下者，皆此类假谲人也！安可相交？”栩虽迂，然亦久知太祖之能，遂委国相印与之，自与太平道人王宪日清谈不休。王宪字敏宏，太原晋阳人也，世代名族，容貌雄伟，不习儒，善望气。年四十学道，初随张角，久之乃去，人问之，曰：“角所传，似是而非，纯以诡谲愚人，非道家清净之本，必不得久也。”初，与太祖相逢于中山豪门，座中目视太祖良久。太祖笑问曰：“公善望气，可望的我能至两千石否？”宪曰：“十年必达”。复问：“十年后何如？”宪笑而不语。翌日，宪遗书于太祖而走。书曰：“君气赤红而凝紫，冠绝座中诸人，十年后，君当青云直上，居凌霄而鞭挞宇内，如是而已！”太祖不信，笑而示左右即弃之，然书离手自燃，须臾灰飞烟灭，左右皆惊。
赵国功曹掾申氏者，恃其宗族强横，素为不法。太祖遣修拿问，申氏竟临街自为营堑抗之，修独将三骑径入其门，斩其子三人，遂族灭之。赵国豪右震怖，窃据郡职者，纷纷去位。太祖又设宴尽延之，众皆惕惶而行。及至，太祖出《两年计划》，约以清流民、查丁亩、立公学、修水利等四事，更以孝廉及公学学位为赏，众乃振奋，立誓相从。赵王闻之感佩，献偏殿为书楼。太祖又闻蔡邕困顿并州，即遣人延为公学祭酒。越明年，一国大治。襄国县长甄度勾结黑山贼，欲行不轨，为太祖识破，擒杀于国相官寺，冀州震恐。适刘焉新为方伯，乃微服私行，欲察其详。至赵国，访问野老，观察行政，叹曰：“观邯郸令为政，真龙虎势也！”，遂发书九郡为彰。初，太祖南行时，卞夫人已有身，遂留令支，后诞女，即赵国公主离也。赵皇后闻之，喜且愧，乃为太祖求邯郸秦氏女为侧室，即秦夫人也。
光和二年秋，赵国大熟。冬，太祖发举国之众筑圪芦河霞堤，自与国、县长吏负石为工，众无敢怠者。再月而成，赵国美之。刘焉闻堤成，亲往视是，逢二贼行刺。关羽时为民夫，与州从事吕布各手格一贼，救焉，不受赏而去。太祖闻讯，夤夜往追，羽感其诚，遂拜为主。太祖携其手而归，引为腹心。焉感太祖之德，上疏力荐之。朝廷以太祖治政美甚，远超同侪，拜议郎，转中山太守。赵皇后父苞以互免法入为光禄勋。
太祖素重简朴，为政清厉，任中山太守三载，大兴文教，于卢奴设公学如邯郸故事。郡治清平，流民多投，俱安之。然以长吏行政，常有急令，左右讽之。太祖乃曰：“天下渐钝，士民如在釜中，吾观之，如己身在釜中，安的不急？”。虑天下不靖，发郡中青壮，拣选拾伍，凡得五六千人，每于农闲演练。
光和三年十月，太宗仁皇帝定诞，太祖长子也，生母赵皇后。四年，凉康王平诞，生母冯夫人。中山公主臻诞，生母秦夫人。
光和六年，冬，太祖任满三载，考绩上，迁涿郡太守。涿郡豪右者，以奢侈无度闻于天下。及得太祖将至，豪右咸皆震怖，奸宄遁逃，窜入他郡。太祖速至，于道旁逢之，凛然斥曰：“尔辈者，入他郡便得安否？”豪右奸猾知其神武，皆惶恐，乃各自归郡，复膝行请罪。一郡遂安。幽州刺史郭勋，久欲整顿范阳游商，虑前守庇之，且其事多涉卢氏，乃候前守已行，太祖未至，欲徐徐为之。事未备而太祖已至樊与亭，勋大急，误太祖将为卢氏张目，遂夜访樊与，欲逼停之。太祖闻之大怒，语勋曰：“方伯但安坐，某自为清白！”乃携娄圭等夜驰范阳。及勋追至，猾商游侠，并皆一空。又助勋擒卢植长子，施以髡刑，罚没家产徒附。人或劝曰：“岂有弟子破师门者？”太祖凛然曰：“师可敬，法更可敬！”。勋拜服，自是州郡和睦，上下一心。
光和七年正月，太祖察张角将生乱，乃征发粮秣军资，招募游侠，整饬郡卒，阴为之备。刘备携张飞、简雍往投，太祖大喜。二月，张角果反，以“苍天已死，黄天当立”号召四方，旬日之间，幽冀兖豫青徐荆七州，三十六方俱起。广阳黄巾三万众围涿城，太祖见敌至城下立寨，乃引公孙越、刘备、关羽、牵招、张飞、魏越、娄圭凡二十骑出城，透贼寨而还，贼不能伤也。及入城门中，众将自矜夸斩获不止，独太祖不言。待诸将噤声，太祖乃缓缓曰：“已得破敌策也，五日当覆。”众将俱惊。太祖遂遣羽等，各数十骑驰突黄巾军阵，一日或至三四，皆斩首而出。连战数日，黄巾渐疲。太祖察其殆，以飞引二十骑诱敌，贼出全军骑兵千余阻之，飞往来奔突，如入无人，贼不能制。太祖观其阵散，度其气衰，发白马义从三百，侧击贼骑，千骑一时俱丧。贼帅程远志无奈，驱贼众蚁附攻城。太祖委事于众将，返家高卧于榻，观书不止，秦夫人在侧，问：“城上利害？”答曰：“小儿辈必大破贼。”意色举止，不异于常。翌日，贼力竭神疲，太祖乃发全军出城击之，一鼓而破，俘八千余众。远志欲逃广阳，而太祖已先遣轻兵截断道路。远志无奈，携残军南走范阳，欲投张宝，为关羽追斩于道。贼众溃散，冲破宝北营，太祖趁机夺之。宝夜袭太祖营，为太祖识破，反夺其西营。宝度无能为，夜遁。太祖遣将复广阳、渔阳，幽州遂安。
勋知太祖来救，夜坠城往见，问以方略。太祖答曰：“仆燕地一匹夫，自弱冠而受国恩。今黄巾骤起，天下震动。虽不才，愿提三千幽燕之士，南下河洛，以定社稷，以此获罪，何负天下人乎？！”勋壮其言，起而拜，与联名上疏。朝廷赞许，诏太祖领三千骑，入洛言事。太祖乃严选上谷代郡突骑两千，渔阳铁骑一千，并白马义从及娄圭、韩当、张飞等，疾驰南下。旬日而至孟津，破贼帅马元义部，洛阳为之一肃。何进时为大将军，素知太祖之能，力荐之。灵帝遂拜钛祖为五官中郎将，以骑都尉曹操副之，令出东郡讨贼帅卜已。钛祖以柏人令董昭有谋略，征为护军司马，并急召程普等，未至，而贼已北破清河，西叩轘辕，洛阳震动。钛祖与幽燕并三河骑士七千众歃血盟誓，曰：不弃一人于敌阵，不遗一骨于他乡。遂急出至白马，令关羽奇袭下之，贼众震恐。
钛祖闻济阴有士名李进者，素知诗书，乃殚夜而往辟之。进感其德厚，逢钛祖克城勤苦，乃慨然举族而助。其族兵三千，皆父子兄弟，坚韧耐劳，每阵争先。钛祖即以其为先锋，旬月之间，三渡大河，拔韦乡，下顿丘，降咸城，克东阿。东郡贼军，望风披靡，纷聚濮阳、东武阳二城，各两万余。钛祖乃耀兵濮阳城下，伪言将攻东武阳，克之即往援河北，断张角之背。卜已闻之，率全军渡河往援。恰程普、高顺率部至，钛祖乃命其阻东武阳之贼，自率骑兵先击破卜已军，又与之合兵击破东武阳贼军，反驱之与卜已军并至河。贼降者万余人，余自卜已以下，皆蹈河而死。东郡遂平。
赵忠闻太祖已平东郡，思其缴获必稠，乃遣门客索贿。太祖鞭杀之，令其仆携一文钱归，告忠曰：“予汝异日买命钱！”忠大恨，然终无奈何。太祖分赐粮食钱帛予东郡百姓及军士。又拣选降兵青壮者，得万余，合两万众，出颍川长社，往攻贼帅波才。
才军颇众，可十万余，兼有军略。右中郎将皇甫嵩、左中郎将朱儁引汉军与数战不利，困于长社。翘首望援，旦暮皆惊。太祖临洧水而不渡，慢贼之心，阴与嵩、儁等约以火攻。俟东风夜起，潜渡洧水，顺风纵火，一夕而破贼。嵩、儁等正议追袭，闻太祖已先遣审配袭取阳翟，刘备擒斩波才，遂叹服。又闻太祖直入长社，委全军于儁，是推功予之，救其前过，愈德之。长社钟繇，时之名士也，见太祖而折心，曰：“真吾主也！”然困于党锢，遂荐枣祗、戏忠为幕属，太祖辟之。
六月，朝廷以功进太祖良乡侯，皇甫嵩都乡侯，朱儁西乡侯。诏罢郭勋河北副将，以太祖掌冀州北面战事，讨张宝。太祖分步卒予操，往助卢植，自引万骑出邯郸临下曲阳。所部护乌桓校尉宗元、钜鹿太守郭典、常山相冯歆、中山太守张纯等，闻太祖至，皆肃然整军，知大战至也。太祖至军三日，合七万众强渡滹沱河，往攻下曲阳。时张宝军十万，皆背城临河列阵，欲击半渡，宝自据土山观望。太祖先令公孙越督万骑绕道渡河，又令典、纯两翼抢渡设垒，引贼往攻。以张郃率大戟士数百先渡，自引白马义从紧随，强攻宝本阵。贼蜂拥来攻，太祖视若未睹，前移仪仗者三。汉军望见，皆忘死奋战，纯殁于阵中，郃部死伤殆尽，孤身至宝阵前，掷矛杀其副帅，宝惊走，贼军溃散。越自后而击，覆贼八万余，逃归者不足两万。董昭、戏忠、冯歆等，隔河观战，为之神驰。太祖进而围城，料宝无能为，遂围垒设壁，不攻。更使军中蹴鞠为乐，兼整备营属、汰弱选优，复选军中勇士充白马义从。月余，贼内乱，宝自焚，遂复下曲阳。
前，河北主将董卓围张角于广宗，久而不克，以贻误战机槛车入洛，诏皇甫嵩代之，嵩至而角病死，广宗动摇。嵩趁机发兵，大破角弟梁。太祖既克下曲阳，遂与嵩合兵更围广宗。梁愈恐，乃潜夜勒兵，驰赴钜鹿泽。太祖与嵩立发兵，以步卒破城，行骑兵断梁于漳河，战至晡时，各大破之。斩梁。角剖棺戮尸，传首京师。广宗累获首三万级，赴河死者五万许人。天下乃平。拜太祖光禄大夫，入洛论功。
十月，拜太祖卫将军，领河内太守，封蓟侯、特进，食邑六千户。