张骞是汉中人，在汉武帝初年做了郎中（帝王的侍从官）。那时候，匈奴当中有人投降了汉朝。汉武帝从他们的谈话中，才知道一点儿西域的情况。他们说敦煌(在甘肃西部）和天山当中有一个大国，叫月氏。月氏给匈奴打败，往西逃去。他们痛恨匈奴，想要报仇，就是没有人帮助他们。
汉武帝听了，就想；月氏在匈奴的西边，要是跟月氏联合起来，准能切断匈奴跟西域各国的联系，等于斩断匈奴的右胳膊。他下了一道诏书，征求精明强干的人去联络月氏。汉朝跟月氏本来没通过音信，谁也不知道这个月氏到底在哪儿。那几个匈奴人只知道月氏往西边逃去，逃得很远，可是究竟有多远呐，谁也不知道。诸侯王，文武大臣当中没有一个人敢到那种地方去。他们说不是不敢去，是因为连地名都不知道，没头没脑地怎么去呐？
那时候张骞还是个小伙子，他觉得这件事情很有意义，首先应征。张骞带头应征，别的人胆子也大了。有个匈奴人叫堂邑父（姓堂邑，名父），还有一百多个勇士都愿意跟着张骞一块儿去寻找月氏国。
公元前138年 ，汉武帝就派张骞为使者，带着这一百多个勇士从陇西（就是现在的甘肃）出发去找月氏。陇西外面就是匈奴地界。他们要到月氏去，必须经过匈奴。张骞他们小心地走了几天，还是给匈奴兵围住。这一百多个人怎么打得过匈奴呐？没说的，他们做了俘虏。
匈奴到没杀他们，只是派人管住他们，不放他们回去。张骞他们走努力啦，只好住在那边，过着匈奴人的生活。一住就是十多年。可是他们全都分散了，只有堂邑父跟张骞在一起。日子久了，匈奴人管他们就不怎么严了。他们说话，做事，比以前自由多了。
有一天，张骞跟堂邑父商量了一下，带着干粮，趁着别人不留心的时候，骑上两匹快马，逃了。他们没忘了自己的任务，还是要到月氏去。虽然不知道月氏在哪儿，可是他们断定；只要往西走，准错不了。他们跑了几十天，吃尽苦头，逃出匈奴地界，总该到了月氏了吧。哪儿知道月氏还没找到，他们倒闯进了另一个国家，叫大宛（在中亚）。
大宛在月氏的北边，是出产快马，葡萄和苜蓿（就是草头，也叫金花菜）的好地方。他们到了大宛，就给大宛人截住。大宛是匈奴的邻国，懂得匈奴话。张骞和堂邑父都能说匈奴话，言语方便，一说就明白。大宛人就去向国王报告。大宛人早就听到过在很远很远的东方有个汉朝，地方很富庶，吃的，穿的，住的讲究得没法儿说，金银财宝，绸缎布帛多得用也用不完，就是太远，没法儿来往。这会儿一听到汉朝的使者到了，连忙欢迎他们。
张骞见了大宛王，对他说；‘我们是奉了皇上的命令到月氏去的。要是大王能够派人送我们去，将来我们回到中原，皇上一定拿最好的礼物来送给大王。’大宛王答应了，就派人送张骞他们到了月氏。张骞见了月氏王，谈到汉朝愿意跟月氏联合起来，共同去打匈奴。他以为月氏王能够得到汉朝的帮助，杀父大仇可以报了，月氏王还能不高兴吗?没想到完全不是那么一回事。
原来月氏老王被匈奴杀了以后，月氏人立他的儿子为王。新王率领着全部人马和牲畜迁移到西边。他们越走越远，一直到了大夏（就是现在阿富汗北部的地区），大夏人就跟他们打起来了。双方打了几杖，月氏人打败了大夏人，占领了大夏大部分的土地。那边土地肥沃，物产丰富，月氏人得到了那块土地，很满意，就建立了一个‘大月氏国’。月氏王不想再去跟匈奴作战，报仇的念头已经冷了。他听了张骞的话，不大感兴趣，只因为张骞是个使者，很有礼貌地招待着他。
张骞和堂邑父在月氏住了一年多，还到大夏去走走，学到了许多东西，就是没法儿叫月氏王去打匈奴。他们只好回来。他们离开月氏，经过康居（在中亚）和大宛，到了匈奴地界，又给匈奴逮住了。堂邑父本来是匈奴人，张骞又能说匈奴话，只要他们不回到中原去，匈奴还是不杀他们。他们只好留在那边。过了一年多工夫，匈奴内部出了事儿，太子和单于争夺王位，弄得国内打乱。张骞趁着乱劲儿，同堂邑父逃回来了。张骞原来带着一百多人出去，在外边足足过了十三年，就剩下他们两个人回来。汉武帝慰劳他们，拜张骞为大中大夫，封堂邑父为奉使君。
大中大夫张骞因为熟悉匈奴的地理和情况，这次随大将军卫青出征，能够在漫荒野地找到水和草。卫青特地向汉武帝奏明张骞的功劳，所以汉武帝就封为博望侯。
博望侯张骞还想再到西域去。他向汉武帝详细报告西域各国的大概情况。最后他说；‘我在打夏那会儿，看见邛山（在四川；）出产的竹杖和蜀地（在四川成都）出产的细布了。’
汉武帝奇怪起来。他说；‘邛竹和蜀布是咱们国家很出名的东西，怎么你能在打夏见到呐？’张骞说；‘是啊!我当时就问大夏人这些东西哪儿来的。他们说是买卖人从身毒（又写作‘天竺’，是古代译音，是现在的印度；身毒juan du,‘身’ 的读音还有yan,yuan等）买来的。身毒在打夏东南好几千里，是个大国，风俗跟大夏差不多，就是天气热。还有，他们骑着大象打仗，这就跟别的地方不一样。大夏在长安西边一万二千里现在大夏人从身毒买到蜀地的东西，可见身毒离蜀地一定不远。我们走西北这条道儿到大夏去，必须经过匈奴，阻碍重重。要是从蜀地出发，走西南那条道儿，经过身毒到大夏，就不必经过匈奴了。’
张骞又讲了一些别的西方国家的情况。汉武帝听了，才知道在匈奴的西边还有大宛，大夏，安息（古代的波斯），大月氏和康居这些国家。汉武帝打算用礼物和道义去跟这些国家来往，使得他们都联合起来对付匈奴。他非常钦佩张骞的探险精神，完全同意他经过身毒到大夏去的计划。
汉武帝派张骞为使者，从蜀地出发，带着礼物去结交身毒。按照张骞的推想，身毒是在蜀地的西南方，可是谁也没有去过。那条道儿还得用他们的脚去踩出来。
张骞把人马分成四队，从四个地点出发去寻找身毒国。四路人马各走了两千里地，都碰了壁。有的给当地的部族打回来，有的给杀害了。
往南走的一队人马到了昆明（在云南），也给当地的人挡住了。汉朝的使者只好换一条道儿走。他们绕过昆明，到了滇国（也叫滇越，在云南）。滇国的国王原来是楚国人，已经有好几代跟中原隔绝了。他愿意跟汉朝来往，很客气地招待着使者，也愿意帮助使者找道儿去通身毒。可是昆明在中间挡着，一过去就打，他们只好回来。
张骞回到长安，向汉武帝报告经过。汉武帝认为这次出去虽然没能找到身毒，可是已经通了滇国，在南方结交了一个从没听过的国家，也很满意。
公元前121年，匈奴再一次打到上谷，杀了几百个汉人，抢了一些牲畜，财物，不等汉军过去就走了。这可把汉武帝气坏了，他决定要跟匈奴拼一拼。