彼時馬騰為耿鄙麾下司馬，在耿鄙死后接管了漢廷軍隊，但是他非但沒有為耿鄙報仇，反而和叛軍合流，也反叛了
他聚合了王國、韓遂等人，聯合了多支叛軍，自己則成為叛軍領袖，在中平六年189悍然進犯關中，攻打長安。
漢靈帝緊急調集皇甫嵩和董卓平叛，擊退了馬騰叛軍，讓馬騰被迫退回隴西，這便是最初的涼州之亂。
這件事也促成了出身寒微的董卓崛起上位，同年漢靈帝病死，董卓顯露出野心，奉何進之命進京，同時暗里派人勾連馬騰韓遂修好，以為臂助。
雙方約定，董卓進軍雒陽，馬騰韓遂攻打皇甫嵩，占據長安，兩城即得，天下可得。
但馬騰韓遂卻不看好帶著幾千兵進入雒陽的董卓，在董卓走后按兵不動，想等著雙方打得兩敗俱傷，再伺機而動。
結果讓兩人沒想到，全天下人也沒想到的是，董卓真就憑著幾千人控制了雒陽，行廢立之事，扶持漢獻帝上位，成了最后的贏家
但董卓此人倒也不計前嫌，他唆使呂布殺死丁原后，吞并了并州軍，實力大增，再度派人要求馬騰韓遂歸附，馬韓兩人見董卓勢大，便依附了董卓。
后漢書董卓傳董卓之入關，要韓遂、馬騰共謀山東。遂、騰見天下方亂，亦欲倚卓起兵。
之后初平三年192，董卓被殺，李傕郭汜重奪長安，兩人掌權之后，延續了董卓的策略，招安了馬騰韓遂，讓其實控涼州。
魏書董卓傳是歲，韓遂、馬騰等降，率眾詣長安。以遂為鎮西將軍，遣還涼州，騰征西將軍，屯郿。
馬騰是扶風人，郿縣地處扶風，所以馬騰也算是衣錦還鄉，至此馬騰從漢吏到邊地巨寇，再到漢廷邊疆大員，重號將軍，完成了大步跨越，走上了人生巔峰。
興平元年194關中出現糧食危機，屯駐郿縣的馬騰向李傕求糧不獲，心生怨恨，遂勾結在長安任職的左中郎將劉范等人，聯手益州牧劉焉劉范之父，攻打長安，這便是第二次涼州之亂。
李傕遣樊稠李利出戰，大破馬騰劉焉的聯軍，馬騰韓遂敗走，劉范等人被殺，劉焉聞訊發病猝死，益州大亂。
值得一提的是，當初李傕郭汜攻打長安時，也是因為劉焉手下的叟兵叛變，導致呂布敗走，長安陷落。
劉焉此人，其實一直暗地里面謀劃自立為帝，其所作所為也影響了漢末的天下大勢，但如同袁紹一樣，最后的勝利果實被別人拿走，最后人生落幕的時候，幾乎沒有獲得任何好處。
之后樊稠追擊馬騰韓遂軍的過程中，樊稠和韓遂停戰，因此回到長安后受到李傕猜忌，覺得樊稠有了自立之意，所以找個機會將其殺害。
這個舉動也引起了郭汜的警覺，開始和李傕相攻，導致長安戰亂，百姓死傷無數，十室九空，這也是天子劉協離開長安東歸雒陽的起因。
在在著一系列事件之后，李傕郭汜在司隸被曹操袁熙聯軍擊敗，李傕被殺，郭汜被段煨追殺回涼州，身家盡喪，被迫投靠了馬騰韓遂。
馬騰韓遂名義上接受了郭汜的投靠，吞并了郭汜的涼州軍，便掉頭過來攻打段煨。
馬騰韓遂一貫的反復無常，他們長期割據邊地，反抗東漢朝廷，本無忠義之心，其數次出兵攻打關中，目的乃是渾水摸魚，覬覦帝位，與李傕郭汜等人并無二致。
從后世曹操找借口殺死馬騰的舉動來看，事情也不是馬超反叛那么簡單，怕是早就看明白了馬騰品行下作，所以馬騰之死若是全歸結于馬超，似乎也并不太公平，歸根到底是馬騰所作所為，便是連曹操都忍受不了。
而如今兩邊交戰，也是在于段煨和馬韓兩人的立場不同。
段煨作為董卓一系碩果僅存的將領，對于漢庭的忠心，自然也不是馬騰韓遂所能相比，所以當他得知馬騰韓遂收留了郭汜，便要求馬韓二人交出郭汜。