何進又派遣張遼前往河北募兵，張遼在河北共募得千余人，準備返還京城向何進復命，還未到達京城之時，發生了何進被殺，十常侍亦被何進麾下的將領誅殺的戲碼。
幸存的宦官劫持漢少帝劉辯，最終，得到其弟董旻密報的董卓立下了救駕的大功。
回京后，便掌握朝中大權。
由于何進何苗兄弟已死，袁氏兄弟有意讓當初殺害何苗的吳匡等人背黑鍋。
在董卓的招攬以及吳匡等人的帶領下，何進的部屬皆向董卓投誠，張遼作為大將軍何進的直屬部下之一，隨波逐流，歸順了董卓。
董卓引誘呂布殺害丁原后，由呂布率領丁原的士卒，張遼作為原本丁原的下屬，和呂布同為并州人，自然與對方更為親近。
“并州人張文遠？”董卓心里暗暗思量著。
其實他心中最信賴的還是與自己有親緣關系的，比如自己的弟弟董旻、族子董越、女婿牛輔等人。
奈何牛輔、董越已經在政變中犧牲。
其次是李傕、張濟、樊稠等與他起于微末之時的涼州將領。
最后才是張遼、高順等其他各勢力投降過來的將領。
當然像呂布這樣的屬于另類，因為被董卓引誘而刺殺原主，董卓為了表率作用，又十分欣賞呂布的騎射才能，自然不同于其他人。
不過，由于呂布有刺殺原主的前科，所以并州軍并非呂布一個人說了算，而是讓張遼、高順、呂布三人分掌。
將并州軍一分為三，三人各自統帥一軍。
至于白起、馮異他們這些人，雖然也是之后投降過來的，卻與并州軍的將領不同。
因為他們之前沒有效力過其他勢力，算是白身。
其次他們都是從普通士卒中，一步步脫穎而出的，這樣的人對于董卓而言更加的重視。
第三，也是最重要的，他們的能力是董卓非常依賴的，特別是白起這樣能征善戰的將軍，是自己麾下其他將領不能比擬的。更何況對方還是出身郿縣，那是自己的封地，董卓早已經把他當作自己人，信任程度還在李傕等人之上，僅次于自己的弟弟董旻。
董卓的想法是將最信賴的人留在身邊，比如董旻、白起等。
將第二梯隊的李傕等人派出去鎮守四方，如果派遣他最無法信賴的人鎮守緊要的關口，很可能出現一旦敵軍壓境，他們馬上投降的情況，這是非常危險的。
所以董卓聽聞馮異的話，才會猶豫不決。
白起似乎看出了董卓的想法，不禁建言道：“董公，白某與文遠曾經并肩作戰，有他守御武關，必定一夫當關萬夫莫開。
武關的戰略地位自不必說，相鄰的南陽郡可是袁術的地盤，董公與袁氏兄弟有滅族之仇，只要他們見到有利可圖，必將兵臨武關，所以必須要既有能力，又忠心的大將鎮守。
請無需懷疑文遠的能力與忠誠，白某愿意為張文遠作保！”
董卓見到白起都如此擔保了，也沒有反對，而是向張遼問道：“文遠可有信心守住武關？”