土樓山既破，天柱王在東部邊境苦心經營的防線瞬間便被隋軍撕開了一個大口子，其部主力的側翼完全洞開。
九月一日，黃明遠在湟水邊祭祀了死難的將士，然后命令大軍主力向西北方向渡過長寧川水，再向西南方向的臨羌城殺去。
臨羌城是吐谷渾在海東地區第一大城，位于湟水與羌水（今青海省藥水河）的三角地帶，城東西一百六十七步，南北一百六十三步，近于正方形，夯土筑，有兩丈高。此城為西漢神爵元年（前61年）后將軍趙充國所筑，到了北魏時期為吐谷渾所據。
臨羌城也是一座少有的險城，兩側為湟水和羌水，而西北面的戎峽（今藥水峽）是其天然屏障。
不過因為天柱王將決勝戰場設在了牛心川水，因此在臨羌城內留守的士兵并不多。
隋軍進軍速度奇快，從長寧谷地直撲臨羌城。城中胡虜措不及防，直接被隋軍堵在城中。臨羌城占地不過九十畝，面積不大，因此吐谷渾軍隊仰仗險城堅守不出，急切之間，隋軍并不能迅速攻下。
黃明遠并不擔憂臨羌城。在黃明遠看來，臨羌城就在那里，無論如何跑不了。而天柱王麾下的吐谷渾主力才是真正的打擊目標，而一旦天柱王選擇逃跑，再向南追上他就難了。
黃明遠可不想天柱王帶著數萬軍隊逃走，因此黃明遠決定分兵阻擊胡虜。
黃明遠乃留五千部隊交給麾下大將虎賁郎將達奚暠，令其繼續圍困臨羌城，然后自率軍向天柱王部撲去。
黃明遠之前率部北上之后，張壽便在營中多布旗幟，以為軍廣。
天柱王徹里泥不知真假，見隋軍數萬之眾，人馬俱威，因此并不敢輕易渡河，只得緊守營寨，準備打防御戰。
但過了兩日，徹里泥見隋軍既不大規模打造戰船，也不搶渡出擊，只是堅守營寨，心中便有些疑惑。
若是說隋軍打不過吐谷渾軍徹里泥可能信，但若是說隋軍見到吐谷渾軍連主動出擊都不敢，徹里泥是萬分不信的。
這時徹里泥猜測，隋軍是不是主力轉移，只留下少部分軍隊在此迷惑自己。又過了半日，實在按捺不住的徹里泥不欲繼續與隋軍相持，乃決定偷偷渡河攻擊，試探一下隋軍的實力。
這天夜里，徹里泥命前軍萬人趁夜偷渡。船行了多半路程，也不見有隋軍阻攔。徹里泥大喜，隋軍怕是真不堪一擊，連他偷渡都發現不了。
徹里泥命全軍加快速度，趕緊等岸。
等到離著岸邊有數步，已經到了河灘，不少人跳下船來從河灘之處搶渡。
眾人心中驚喜，眼看就到了隋軍營地，他們馬上就要殺去。這時突然正前面山坡之上，突然從地下鉆出一群人，向吐谷渾士兵射去。
這些人皆是手持弩機，不斷地向胡虜發射。
因為距離不遠，數擊之下，胡虜便是成排成排的倒下。沒有被攻擊到的胡虜也是心中驚恐，慌不擇路。
這時隋軍營寨阻攔的墻板也紛紛倒下，對面便是一排一排的具裝甲騎，還有其余的突擊騎兵。