次日，曹操召集諸將，宣布要圍攻下辯城，殺死馬騰，為曹純報仇。他宰殺牛羊，犒賞將士，振奮士氣，然后親自統兵趕到下辯城下，部署圍城事宜，派人伐木取材，打造攻城器械，并四處散布消息，宣稱一定要殺死馬騰。
得知馬騰擊敗曹操，并殺死了曹操的大將，楊騰等人興奮莫名，感到非常解氣，也因此為馬騰擔心。不用多說，他們紛紛率部趕往下辯，為馬騰助陣，希望能再次重創曹操，報滅族之仇。
旬日之間，下辯城人滿為患。見此情景，馬騰喜憂參半。喜的是羌人支持他，擁護他，憂的是這么多人聚在下辯并不能增加多少戰斗力，反而增加了不少隱患。首當其沖的就是糧食。武都郡人口有限，賦稅也不足，供養不起太多的人馬。其次是城池，下辯城并不大，容不下那么多人，先來的可以入城，后來的只能在城外扎營。
這非常危險。這些羌人雖然勇猛，卻訓練不足，也談不上什么軍紀，就是一群烏合之眾。正面作戰，他們肯定不是曹操的對手。雖然首戰擊敗了曹操，馬騰卻也見識了曹操部下的嚴整，絲毫不敢輕視曹操。
可是如何勸這些羌人離開，卻是一個難題，馬騰很糾結。
就在馬騰遲疑不決，而羌人卻越來越多的時候，曹操也完成了士氣的調整，發起了進攻。他親臨戰陣指揮，分割包圍，不斷的蠶食羌人的陣地。吃過苦頭之后，曹操、法正以及諸將都吸引了教訓，步步為營，不給羌人一點機會。每當取得一個突破，曹操就宰牛殺羊，賞賜將士，并及時發放戰利品，刺激士氣。將戰死的羌人砍下首級，堆在城下，筑成京觀，打擊城中的士氣。
在曹操的指揮下，諸將奮勇爭先，連戰連勝，數日間斬首萬余，連楊騰都被臨陣斬殺。
見此情景，馬騰無法坐視，只得再次率部出擊。曹操卻早有準備，他在城門口設置陣地，不讓馬騰的騎兵出城，雙方在城門中反復爭奪。曹操依靠陣地和強弓勁弩，硬是將馬騰堵在城里，空有精騎數千，卻無用武之地。
無奈之下，馬騰只得與曹操講和，同意曹操離開武都。
曹操其實也到了強弩之末，難以為繼。這些羌人太窮了，除了一些牛羊、糧食，其他的什么也沒有，戰利品只能勉強維持糧食的消耗，卻無法補充軍械、醫藥，受傷的將士得不到及時的醫治，傷亡不斷累積，漸漸到了無法支撐的地步。
曹操決定見好就收，等秋收之后再來報仇。
雙方解兵而去，交鋒卻沒有真正結束，他們同時上書朝廷，指責對方。馬騰指控曹操濫殺無辜，誣良為賊，搞得涼州不安寧。曹操則指控馬騰勾結羌人做亂，圖謀不軌，還特地呈上一份馬騰收受宋建賄賂的禮單。至于是真是假，就只有他自己知道了。
七月，秣陵一片歡騰。
朝廷的詔書到達秣陵，封孫策為吳王，并征孫策入朝主政。