公元前129年，張騫趁看守不備逃離匈奴，繼續西行。歷經千辛萬苦才輾轉找到大月氏的王庭，然而大月氏的首領已經無意向匈奴報仇，張騫只好歸國。為了避開匈奴領地，張騫特意繞路經青海歸國，然而青海的羌人部落也被匈奴征服。
張騫又被抓回匈奴，公元前126年，匈奴出現內亂，張騫趁機逃回長安。出發時有100多人，13年過去后僅剩張騫和隨從堂邑父歸國。
這次出使雖然沒有達到聯合大月氏制匈奴的目標，但是卻讓中原王朝第一次知道在河西走廊的另一邊究竟有何方神圣。張騫考察了蔥嶺、東西中亞、西亞以及安息、印度諸國的位置與國情，為漢朝侵略西域開辟絲綢之路奠定了良好基礎。
公元前121年，霍去病大敗匈奴，被西漢奪取河西走廊。漢武帝在河西走廊設立武威、張掖、酒泉、敦煌四郡，打開了通往西域的道路。
漢武帝派張騫第二次出使西域，別洛烏孫斷匈奴右臂。張騫率領300人，帶上牛羊馬匹前往西域，這一次他們訪問了中亞的大宛、康居、大月氏等國，帶著烏孫使者返回長安。
第二年張騫就去世了，西漢與烏孫聯姻，加強了西域諸國的聯系，開辟了絲綢之路。漢朝的絲綢、鐵器傳入西域，繼而通往西方，而西域的汗血寶馬、葡萄、核桃、胡蘿卜等物種也由此傳入中國。
公元前60年，西漢在西域設立西域都護府，標志著絲綢之路進入繁榮時期，佛教也經由絲綢之路傳進華夏。
到了兩漢交際之時，絲綢之路中斷，西域諸國被北匈奴控制。由于東漢初期國力有限，光武帝劉秀沒有在西域重建都護府。
到了公元73年，班超隨竇固北征匈奴，出使西域，在鄯善打敗了匈奴使者，讓于闐國王重新恢復漢朝，再次打通了中斷半個世紀的絲綢之路。
不久漢明帝去世，北匈奴反攻，絲綢之路再次中斷。直到公元89年，竇憲出征北匈奴，封狼居胥，西域重新回到漢朝的懷抱。公元94年，西域50余國皆歸屬中央政府，絲綢之路延伸至地中海沿岸。
班超派甘英出使西方的大秦，即羅馬帝國，雖然被安息帝國所擋，但是也讓西亞地中海地區知道了漢朝的存在。羅馬也派使者出使東漢，兩個地球上最強大帝國因為絲綢之路而交匯在一起。
到了魏晉南北朝時期，由于戰亂不止，無暇西顧，絲綢之路時斷時續。北魏統一北方后，波斯派遣使團10次出使北魏，還順路去了南朝。
西域的胡風樂舞傳入南北朝的宮廷，風靡一時。北魏胡太后派宋云等人前往西域求取佛經，帶回了170部經書，使佛教進一步在中原傳播。
隋唐時期絲綢之路再次復興。隋煬帝派裴矩西行于西域諸國，溝通貿易，考察西域諸國的風土人情。公元609年，隋煬帝西巡討伐吐谷渾，西域27國都派使臣前來慶賀。
隋煬帝在今青海xj南部設立郡縣，將其納入中央王朝的控制之中。隋朝滅亡后，絲綢之路被突厥所阻斷。
公元630年，唐朝滅dtz，唐太宗李世民被西北諸蕃擁戴為天可汗，西域諸國紛紛表示愿意恢復朝廷。公元639年，唐朝設立安西都護府與西突厥對峙。到了唐高宗時期，西突厥被蘇定方掃滅，唐朝統一西域。
中亞諸國紛紛恢復絲綢之路，又一次進入繁榮時期。大食、東羅馬帝國派使者出使長安。中國也可以派船舶經東南亞前往西亞與歐洲各國產生聯系。
根據史書記載，唐朝曾與300多個國家交往，每年來到長安的外國人數以萬計，長安是當時名副其實的世界第一大城市。在這一時期最為著名的事件就是玄奘西行取經，帶回佛教經典657部，修正了漢譯經書的錯誤。錦繡和模擬也經由絲綢之路傳入中國。
然而隨著安史之亂的爆發，唐朝由盛轉衰，無暇西顧，絲綢之路衰落。到了宋朝之后，由于宋朝沒有控制河西走廊，無法西進，陸上的絲綢之路斷絕，海上貿易興盛起來。
蒙古帝國版圖橫跨歐亞大陸，首次將絲綢之路的兩端完全納入統治之中，通過修建驛站使東西方貿易再度繁榮起來。元朝被趕出中原后，勢力仍然盤踞在漠北，時不時南下侵擾，陸上的絲綢之路逐漸從溝通東西的貿易往來變成了各民族之間的互市貿易。