韓遂沒有采納，后曹操聽聞此事，感嘆馬超不死，他就無葬身之地了。
曹操拖住馬超的部隊，命徐晃、朱靈等人偷偷趁天黑渡過蒲阪津，
馬超派梁興率領步騎五千余人攻打徐晃，被徐晃擊退，順勢占領黃河以西，安營扎寨。
曹操在潼關北面強渡黃河，渡了一半，馬超率領一萬多精軍趕到，猛攻曹軍船只。
曹操靠部下許褚救得性命，校尉丁斐見機放出大批牛馬引誘，馬超的軍隊都去爭搶牛馬，隊形大亂，曹操因此渡過黃河。
馬超軍隊敗退后，占據了渭河口來抵抗曹軍，曹操就多設疑兵，偷偷讓軍隊渡過渭水在渭水南岸扎營。
馬超等聯軍趁夜偷襲曹營，但被曹操所設伏兵擊敗。
馬超等人便駐守在渭南，派人送信，以割讓黃河以西為條件求和，被曹操拒絕。
九月，曹軍渡過渭水，馬超等人多次挑戰，曹操都不應戰。
馬超等聯軍只好再三請求割地，送人質求和。
當時曹操與韓遂、馬超只帶少數人馬會面，馬超依仗自己武力強大，嘗試在馬前放置六斛米囊來回奔走，
用斛米測量曹操的體重，想要突然上前捉拿曹操，被曹操身邊的將領許褚怒目注視，馬超才不敢動手。
曹操知道后，自嘲差點被狡猾的賊人所欺凌。
之后曹操聽從賈詡的計策，假裝應和，故意離間馬超與韓遂，二人之間互相猜疑。
于是曹操才與馬超等約定日期會戰，馬超等聯軍大敗，成宜、李堪等都被斬殺，馬超與韓遂等人逃到了涼州。
馬超逃奔西戎少數民族部落，曹操率軍一路追擊至安定，因為河間有人反叛才撤軍返回。
建安十七年（212年），馬超的余黨梁興等人駐守藍田縣，曹操命令夏侯淵出兵征伐，平定了他們。
馬超逃到涼州上邽，郡人任養等率眾人來迎接他。
之后馬超率領西戎諸部襲擊隴上郡縣，隴上郡縣紛紛響應馬超。
只有冀城擁護州郡的命令而堅守。馬超兼并隴右的軍隊，又得張魯派來的大將楊昂襄助，集結了上萬人，一齊攻冀城。
馬超將冀城包圍，涼州刺史韋康派屬下閻溫去向夏侯淵求救，馬超軍于顯親境內將閻溫抓獲并送與馬超身前。
馬超勸降閻溫時，閻溫假意答應卻又在冀城下大喊援軍很快會來，后又拒絕馬超的再次招攬，馬超遂將其殺害。
五月，馬超的父親馬騰被殺，并夷三族。
冀城兵眾從正月至八月一直堅守，援兵仍舊未來，涼州刺史韋康便派人向馬超求和，
馬超進城后，拘押楊阜，殺害韋康，占據冀城并收編韋康的兵馬。
夏侯淵率兵救援韋康，來遲一步，在離冀城二百多里的地方，被馬超的軍隊趕來打敗。
建安十八年（213年）十一月，馬超在漢陽郡依靠羌人和其他少數民族作亂，
氐王千萬也叛變響應馬超，他們駐守在興國，后被曹操手下將領夏侯淵擊敗，氐王千萬逃奔馬超，其余手下則全部投降。
之后馬超自稱征西將軍，兼任并州牧，督掌涼州軍事大權。
建安十九年(214年)，韋康的舊部楊阜、姜敘、梁寬、趙衢等人，共同密謀攻打馬超。
楊阜、姜敘二人先在鹵城發難，馬超出兵攻打卻未攻下；
梁寬、趙衢則趁馬超出兵之機緊閉冀城城門，殺了他的家小，馬超無法進城，進退兩難，于是襲擊歷城，殺害姜敘母親。
后馬超與楊阜交戰，兵敗，于是逃往漢中依附張魯。
當時張魯很看重馬超，封馬超為都講祭酒，想把自己的女兒嫁給他為妻，被人勸阻才放棄。