董卓死后兩個月，其舊部屬李傕和郭汜等本想解散部隊，歸隱田野，途中遇賈詡獻計，召集舊部，攻入京城，呂布守城八日，因城內叟兵叛變，呂布戰敗，于是率兵百余騎兵，帶著董卓的首級殺出武關。
在此期間，呂布曾在城北與郭汜單挑決勝負，呂布以矛刺中郭汜，郭汜被左右軍隊所救，雙方遂各自罷兵。
看到這個信息的時候，呂布是不滿的。
馬丹，自己竟然會被李傕和郭汜這倆玩意打敗。
雖然在單挑的時候，自己贏了，可是，畢竟是被對方各種暴揍。
這讓呂布很不爽。
“艸，等會找個機會，弄死這倆孫子。”
咒罵一聲，呂布繼續往下看。
下面的事情，他基本上都不知道。
很快，呂布就發現，自己竟然先投靠袁術，但因袁術不滿他自恃有功而十分驕恣、恣兵抄掠，所以被拒絕，于是呂布改投袁紹。
在袁紹處，與其聯手在常山會戰張燕，黑山軍有一萬多精兵、幾千騎兵。
他經常騎著能夠騰躍城墻、飛跨壕溝、名叫赤兔的良馬，與手下猛將成廉、魏越等幾十個人騎馬沖擊張燕的軍陣，有時一天去三四次，每次都砍了黑山軍的首級回來。連續作戰十多天，終于打敗了張燕的軍隊。
接著，他仗恃自己的戰功，再次向袁紹要求增加軍隊，袁紹不答應，而呂布手下的將士也時時搶劫、掠奪，袁紹開始疑恨他。
看到這兒，呂布不由得撇撇嘴。
馬丹，竟然還不給自己兵。
果然，跟著別人干，是沒有出路的。
呂布感覺不安，就請求回洛陽。
袁紹同意他的要求，以天子名義任命呂布領司隸校尉，派甲士送呂布而暗中要除掉他。呂布懷疑袁紹打自己的主意，就派人在營帳中彈著箏，自己悄悄逃了出去。
半夜那些甲士出動，亂刀砍呂布的床，認為他已經死了，第二天袁紹卻得到呂布還活著的消息，于是下令關閉城門，呂布得以逃到河內，與張楊聯合。
袁紹擔心呂布對自己不利，再次派兵追殺呂布，那些士兵都害怕他，追上了也沒有一人敢逼近。途中經過陳留，太守張邈派人迎接呂布，對他大加款待，臨分手時兩人握住對方手臂發誓結好。
興平元年，曹操向東攻打陶謙，派將領武陽人陳宮駐守東郡。
陳宮趁機勸說張邈：
“現在天下分裂，英雄豪杰同時嵋起，您擁有十萬人的隊伍，處在可以四面作戰的地方，按劍雄視天下，是可以做人中豪杰，反而被人控制，不是太卑下了嗎？現在本州的軍隊東征，其地空虛，呂布是猛士，善于作戰，英勇無敵，將他接來一同占據兗州，觀望天下形勢，等候時事的變化好轉，這可以縱橫一世。”
張邈聽從陳宮的意見，就同弟弟張超和陳宮等人迎接呂布，請他當兗州牧，占據濮陽，兗州所屬郡縣一同響應。
曹操知道后率領軍隊攻打呂布，兩軍對陣，呂布出戰，先派騎兵沖散青州兵，曹軍陣勢大亂，曹操策馬冒火突圍，燒傷了左掌。
此后雙方多次交戰，相持一百多天。這時發生天旱，又有蝗蟲為害，糧食不夠，出現了人吃人。呂布將部隊移到山陽駐扎。
興平二年，曹操將兗州各城全部收復，在鉅野擊敗呂布，呂布東逃投奔劉備。張邈到袁術那裏求救，留下張超帶著家眷部屬駐守雍丘。
曹操包圍張超，圍了幾個月，殺了張超和張氏三族。張邈未到壽春，就被他的士卒殺害。
呂布見到劉備后，對其非常尊敬，對劉備說：