十二月底，聯軍從北地郡飛馬送給在長安的韓遂第一批捷報。
十二月二十日臨晨，按原定策書，聯軍對先零羌的總攻開始。
西軍
索湛率所部二千一百騎自廉縣出發，用馬拖拉大船到黃河邊入水，人、馬登上四十二艘大船渡過黃河。
索湛率索家軍和張家軍一千一百騎突襲靈州縣縣城西門；武威都尉韓音率武威軍一千騎突襲富平縣縣城西門。
兩軍殺死沿途遇到的任何人，未走露風聲，向城墻上扔去掛鉤，攀繩而上，登上城墻，各占據了一個縣城的西門。
遭到兩城中守軍的反撲，索湛和韓音均采用第二方案，死守西門及西段城墻待援。
索家軍將領索湛斬縣長零吉、關平斬零谷的中軍都尉零賓、關索斬中軍都尉零列。
而富平縣縣城中，武威都尉韓音吃了先零羌守城將領零覺的一箭，生命垂危，被手下用船運過黃河，送往姑臧途中死亡。
北軍
潛伏在北地郡北部漠北的陽逵部四千騎縱馬奔馳，殺向靈州縣北部。
偏將軍陽逵指揮太阿校尉部都尉陽珀、夏陽校尉部都尉韓析、精騎校尉一部都尉尹騏、精騎校尉二部都尉文程猛攻靈州縣縣城北門。
靈州縣縣城中住有先零羌羌王零谷，五百九十一羌騎，漢役卒一百零九人。城外大營空置無人。
此時，西軍已沖進富平縣縣城西門，斬殺守將零覺。
靈州縣縣城北門已有零星聯軍士兵登上北城墻，羌王零谷知守不住了，和參軍零原，率三百騎沖出南門，奔向丁奚城。
陽逵留陽珀、韓析率二千人守城并出城安撫城內外先零羌帳落羌民，索湛、陽逵帶其余人馬奮力追趕羌王零谷。
東軍
韓奚一百漢騎和韓仁五千羌騎先殺向富平縣東部。
郝寬五千胡騎遲到靈州縣縣城東門外，這里戰事已平息。郝寬為報先仇，大肆放縱部下屠殺先零羌羌民，搶掠生畜和婦人。郝寬部將刺死先零羌部落首領零東。
韓析帶兵趕到，見胡騎殺紅了眼，自家兵少，不敢上前阻攔。
郝寬留下五百騎看守戰利品，帶領主力南下。
阻援軍
閻杰的五百興國氐騎和一千五百胡騎、彭析二千胡騎、迷虎五百羌騎、餓何俾五百羌騎、楊浚五百氐騎、迷貴五百羌騎、燒戈頹五百羌騎、柯列五百羌騎、迷瑞五百羌騎、伊德一千胡騎、金方四百胡騎、伐同伏四百五十羌騎、蛾遮璠六百五十羌騎，合計一萬零九百騎，在北地郡中部扎營，可能由于聯軍太過迅猛，消息尚未傳到泥陽縣，故還未遇到馬騰的第一批援軍。
閻杰有搶大功之念，擅自做主，未按原計劃去拿下五街城、昫衍城，而是帶著一萬多騎直接撲向泥陽縣。