誰知道劉備手下行事不密，風聲走漏，被呂布手下發現了劉備的小動作。呂布當然不甘坐以待毖，只有下邳等呂布占領的城市，奪回徐州，讓呂布先發制人。
呂布采納了陳宮的建議，親自率軍進攻小沛。
劉備覺得奪回徐州的時期已經成熟，就出兵和呂布對決，希望一戰定乾坤，奪回徐州。
兩軍交戰，劉備缺乏騎兵的劣勢再次顯現，被呂布率騎兵擊破軍陣，一敗不可收拾，只得前往許都投奔曹操。
眼看要到手的徐州，又一次被劉備丟失，而且是徹底的丟失。
此時，曹操已經從洛陽迎接漢獻帝道許都，初步形成“挾天子以令諸侯”之勢。
劉備和曹操不失一個陣營，也曾經兵戎相見，但都是那種站隊的對峙，并沒有死戰結仇。
到了徐州以后，劉備雖然是救援陶謙，但并沒有和曹操發生沖突，甚至兩人表面上還相處不錯。
劉備投奔曹操，他手下的謀士，有的主張殺掉劉備，有人主張接納劉備，曹操一時難以決斷。
此時，戲志才已經病故，荀彧推薦郭嘉代替戲志才的職位，深得曹操的賞識。
曹操征求郭嘉的意見，郭嘉勸道
“不可。主公興義兵，為百姓除暴，惟仗信義以招俊杰，猶懼其不來也；今玄德素有英雄之名，以困窮而來投，若殺之，是害賢也。天下智謀之士，聞而自疑，將裹足不前，主公誰與定天下乎夫除一人之患，以阻四海之望安危之機不可不察。”
曹操本來就希望劉備與呂布兩虎相斗，聽了郭嘉之言，決定接納劉備，并用郭嘉之計，挑起劉備都呂布。
于是，曹操不但給與劉備配備兵馬糧草，還上表漢獻帝，任命劉備為豫州牧，讓他討伐呂布。
建安三年198年，劉備領軍與呂布手下的中郎將高順、北地太守張遼交戰，不利，曹操派夏侯惇援救，也被呂布擊敗。
劉備敗回收攏殘軍，與曹操聯合進攻呂布。
攻破下邳以后，呂布被擒，徐州也落到曹操手里，不復為劉備所有，讓他已經失去了根基。
劉備對呂布搶奪徐州的事，耿耿于懷，力勸曹操殺死反復無常的呂布。
曹操雖然接納了劉備，但也不敢讓他獨自領兵在外，他們一起回到許都，被漢獻帝認為皇叔，封為左將軍。
建安四年199年，車騎將軍董承受漢獻帝衣帶詔，劉備暗中加入。
后曹操與劉備“煮酒論英雄”，曹操對劉備說
“今天下英雄，就是你跟我。”
劉備心驚，筷子掉落，知道曹操難容自己。
恰逢曹操派并攻打袁術，劉備主動請命，與朱靈一起攻擊袁術，袁術于途中病死。
劉備不敢再回許都，他進軍下邳，殺徐州刺史車胄，留關羽守下邳，行使太守的職責，他自己領軍回到小沛，與曹操相抗衡。
在糜家的幫助下，東海昌豨以及諸郡縣都歸順劉備，他有拉起了數萬兵馬。
那時，曹操與袁紹已經因為漢獻帝封賞官職之事翻臉，于是，劉備北連袁紹抗擊曹操，又一次在徐州站穩了腳跟。，，