后來，袁紹派大將郭圖、淳于瓊、顏良攻東郡太守劉延于白馬。荀攸提出了聲東擊西、輕兵掩襲白馬的作戰方略。曹操接受了荀攸的建議，親自率軍救援。顏良大驚，倉促應戰。曹操命張遼與關羽為前鋒擊之（此時的關羽，依然是劉備的臣子[11]）。關羽望見顏良的麾蓋，策馬沖鋒，刺死顏良于萬軍之中，又拔出佩刀斬得顏良的首級，然后返還。袁軍將領無人能擋，白馬之圍被解，關羽被封為漢壽亭侯。[12-13]
在關羽尚未斬殺顏良之前，曹操非常欣賞關羽的為人，為了知道關羽有沒有久留的心意，叫張遼以私人感情來詢問關羽。關羽對張遼嘆息道：“我知道曹公對我的厚愛，但我受劉備將軍的厚恩，發誓共死，不可背棄。我終不會留下，在為曹公立下功勞后我便會離去。”張遼擔心，自己若是如實匯報，可能會導致曹操殺關羽。于是，張遼嘆息良久，終于意識到曹操是君父，自己是臣子，不能因為自己和關羽的兄弟情誼就放棄職責。最終，張遼向曹操如實匯報了關羽的心意。曹操因此稱贊關羽：“事君不忘其本，天下義士也。”曹操又讓張遼揣度一下關羽何時離開。張遼深知關羽是知恩圖報之人，于是，為關羽擔保：“羽受公恩，必立效報公而后去也。”曹操知道關羽會離去，反而重加賞賜，想要留住他。但后來，關羽為曹軍斬殺了顏良，于是，關羽盡封曹操的賞賜，留書告辭，向北，去袁紹軍中，回到劉備身邊。曹操左右欲追殺之，不過曹操認為各為其主而阻止。[14-15]
關羽回歸劉備的事跡在魏晉時期被評價為“臣子逃歸君父，振古通義，故魏武善關羽之奔”[16]，說明關羽在曹營之中，仍然被視為劉備的臣子[11]。回歸劉備的舉動是符合義理的[11]。后來，民間文化把關羽此舉叫做“千里走單騎”。
鎮守荊州
劉備在得到諸葛亮后，越來越器重諸葛亮。關羽、張飛對此事感到不悅，劉備解釋道：“我得到了孔明，就像魚得到了水，希望諸君不要再說了。”關羽、張飛于是停止了抱怨。[17]
建安十三年（208年），劉備投靠劉表，屯兵于新野。曹操率領大軍南下，劉備南逃，另遣關羽乘數百艘船駛向江陵會合，但劉備于途中當陽（今湖北省宜昌市）長坂坡被曹操軍追至，幸而關羽駛至漢津，一同乘船至夏口。[18]
劉備聯合孫權擊敗曹操后，曹操留曹仁等防守荊州。于是，劉備又與孫權大將周瑜夾攻曹仁，命關羽絕北道。[19]后來，劉備又向南攻取荊州南部四郡（長沙、零陵、武陵、桂陽）。關羽被拜為元勛，受封襄陽太守、蕩寇將軍。此時襄陽實為曹操勢力范圍，由樂進駐守，所以關羽駐于江北。[20]在此期間，關羽重修了江陵城。[21]
建安十六年（211年），劉備入蜀助劉璋防御張魯，張飛、趙云、諸葛亮與關羽共守荊州。
建安十八年（213年），劉備與劉璋決裂。
現代畫作中的關羽形象
現代畫作中的關羽形象(10張)
建安十九年（214年），在劉備攻打雒城時，軍師龐統中流矢身亡，劉備乃召張飛、趙云、諸葛亮入川支援。關羽駐守荊州。劉備平定蜀地后，以關羽董督荊州事，[22]授權掌管荊州地區劉備控制的部分，包括荊州南部四郡和從東吳借來的南郡治所江陵和附近的公安，關羽事實上鎮守荊州五郡（南郡、長沙郡、零陵郡、武陵郡、桂陽郡）。又對諸葛亮、法正、張飛、關羽四人各賞賜了黃金五百斤、白銀千斤、錢幣五千萬、錦帛一千匹。[23]
關羽聽說馬超歸降劉備，他過去與馬超毫不相識，于是便寫信給諸葛亮，詢問馬超武藝才干與誰人可以相比。諸葛亮知道關羽氣傲心高，于是回信答道：“馬孟起兼有文武的資性，兇猛過人，可謂一代俊杰，屬于黥布、彭越一類，可與張益德并駕齊驅，但還不及您美髯公絕倫逸群。”關羽蓄著一副漂亮的長須，所以諸葛亮稱他美髯公。看了諸葛亮的回信，關羽十分高興，把它交給賓客幕僚們傳閱。[24]