張用的寨子本來在商州縣城以南十多里的位置，之后因為翟進的警告，所以移軍到了興軍路、金州、均州交界處的錫義山。
商州人一帶的百姓，一直都是有著反抗朝廷壓迫傳統的。比如北宋慶歷三年(公元1043年)，陜西饑荒，民不聊生，餓殍遍野，商州災情尤甚。
《溫國文正文集》中稱：“谷未離場、帛未下機，已非己有矣。農夫蠶婦所食者糠麩而不足，所衣者紓褐而不完，直以世服田畝，不知舍此之外有何可生之路耳”。
在忍無可忍的情況下，當年八月，商山饑民一千余人在張海、郭邈山、李鐵槍等人的領導下舉行起義，響應者風起云涌，隊伍迅速擴大至萬余人。
他們以商州為起點，環繞虢州、盧氏以東和洛寧長水以西，后又發展到襄、鄧、荊南，縱橫千余里。義軍每到一地，打開府庫，賑濟貧民，斬殺貪官污吏和土豪劣紳。
北宋朝廷調集上萬禁軍追剿，卻屢被義軍擊敗。年底，在同官軍作戰中張海、郭邈山犧牲，起義失敗。
張用的這支隊伍組成現在的相對比較復雜，最開始的時候，主要是響應他的最早的一批山賊的同伴，只不過在之后與杜充的軍隊進行內戰的時候，大部分死在了開封附近。
之后他帶著人馬，一直轉戰到商州，當地的許多百姓因為幾十年前的災難和起義，對于朝廷并沒有特別多的好感。
同時當地人之前也受到了金國的大廝殺，所以當地人對于金國人也抱有仇恨，在這樣的情況下，張用抗金，但是反對朝廷的口號，得到了當地非常多人的擁護。
所以他的這一支人馬，除了一直跟著他的，最早的那一批山賊人馬之外，最多的反倒是商州的當地人，這些人也是現在張用最為依靠的麾下實力。
但是不要以為只有這兩方人馬，在他的手下還有著第三種勢力，那就是錫義山當地的道教力量所支配著的百姓。
那些百姓基本上是當地的信徒，他們在信仰的支持下，加入了張用的隊伍，在中國歷史上，由宗教所主導的地方勢力，可是有著非常強大實力的。
錫義山可不是普通的山，那是在武當山興起之前，周圍最為重要的道教圣地，也就是說，這個地方一直到明朝之前，都有著非常重要的地位，并且是周圍的普通百姓尋求心理安慰的宗教圣地。
古時錫義山，即今羊尾山。據清同治版《鄖陽府志》：“羊尾山，西南百二十里，即錫義山支也。眾山群集如羊，通陜西山陽縣。前明店社繁盛，今則村墟寥寥矣。”文史資料記載，此山因西漢漢宣帝時漢中太守陽厥曾隱居而名噪一時。