洪武四年，除了征伐四川以外，南方地区也发生了不少叛乱活动，但大明基本是在相对平静中度过的。
十二月，中书右丞相魏公国徐达还京，除了汇报工作，徐氏此来也是向皇帝请战的。次年（1372）春正月，朱皇帝御武楼，与诸将、大臣讨论边事。这时徐达便道：“今天下大定，庶民已安，北虏归附者相继，惟王保保出没边境，今复遁居和林，臣愿鼓率将士，以剿绝之。”他是想根除了王保保这个大明的祸害。
不过朱元璋的国防政策还是以防御为主，这样更划算也更持重，于是他说：“彼朔漠一穷寇耳，终当绝灭，但今败亡之众远处绝漠，以死自卫。困兽犹斗，况穷寇乎？姑置之。”穷寇勿追、穷寇勿迫啊！
但是诸将们一致道：“王保保狡猾狙诈，使其在，终必为寇，不如取之，永清沙漠。”
朱皇帝看大家意见如此坚决，也便默许了，只得说：“卿等必欲征之，须兵几何？”
徐达表示：“得兵十万足矣。”
朱皇帝为了谨慎起见，乃道：“兵须十五万，分三道以进。”这些人马都是大明最精锐的力量。
于是朱元璋便命徐达为征虏大将军，以主力人马出中路；曹国公李文忠为左副将军，出东路；宋国公冯胜为征西将军，出西路。朱元璋口授方略道：“三道并进，中路出雁门，扬言趋和林而实迟重，以吸引敌人至近边决战，最后必然会击破敌人；东路由居庸出应昌，再次奔袭元廷，以掩其不备，必有所获；西路由金兰趋甘肃，以为疑兵，让敌人摸不清虚实，从而起到迷惑和牵制之效，以配合中路。”
“卿等宜益思戒慎，不可轻敌！”朱皇帝最后叮嘱道。
二月，徐达率师到达山西境内，接着他便遣都督蓝玉先出雁门，作为一道诱饵以诱使敌军到近边。蓝玉的先锋部队一路进至野马川，“遇胡寇，追至乱山，寇反兵接战，玉击败之。”蓝玉这位未来的大人物终于第一次走上了历史的前台，不过史书上关于他的详细记载非常少，连他的生年都未明载，据笔者推测，他至少应该比他的姐夫常遇春小几岁。
蓝玉是李善长的同乡，即安徽定远人，他最初追随在姐夫帐下，“临敌勇敢，所向皆捷”，他姐夫举贤不避亲，几次向朱元璋称道自己的小舅子，渐渐的蓝玉便由管军镇抚积功至大都督府佥事。洪武四年，蓝玉从傅友德伐蜀，率军攻克了绵州。不过，在明初开国功臣中，蓝玉实在是只能算个后起之秀。
对于明军的大规模出击行动，蒙元方面可能已经侦知了，起码作为聪明人的王保保可能已经觉察到了异常的动向，于是他亲率主力人马迎战蓝玉。三月，蓝玉的先锋部队已经深入到土剌河（约在今蒙古乌兰巴托西）一带，土剌河全长七百余公里，此地距离和林已经不远。他们与王保保部遭遇，“击败其众，保保遁去”。王保保再次败逃，不过拥有主场优势的蒙元军队这次却败得蹊跷，对此明军却未能充分觉察到，大概王保保已经看透了明军的战略意图，于是使出了一招“以其人之道还治其人之身”。
蓝玉的捷报传到了徐达那里，在立功心切的诸将的鼓动下，徐达也有些冲动起来，将皇帝的“迟重”主张抛之脑后；轻敌的明军于是决定以主力深入草原，将王保保部一网打尽，以建不世之功，再创霍去病的神话——要想成为不世出之名将，创造深入草原的佳绩肯定是不二之选，一心要扬名后世的徐达定然经不起这个诱惑！
显然这一回是不同了，几次都被徐达打得落荒而逃的王保保的确是学乖了，他大概是已决定要诱敌深入，以便于充分发挥蒙古骑兵的战术与机动优势；而且明军深入草原后，后勤和联络都丧失了优势。不过，也许王保保初遇蓝玉时的确是战败了，后来他不断集合力量才有了反攻的实力——如果这样理解的话，王保保就不能算名将了！
王保保与贺宗哲部会合，就这样一路引诱明军持续深入漠北。五月间，徐达已引兵到达抗爱岭北（约在今蒙古乌兰巴托东北，狼居胥山应该就在这一带），此时连续行进的明军已经相当疲惫；由于战线拉得实在太长，他们的后勤补给已经变得越发困难。如果再继续引诱明军深入，显然已经非常困难了；但明军此时若想全身而退，也已经不太可能了，于是王保保决定于此时对明军发动猛烈的反击。
果然，这一次出其不意、以逸待劳的蒙古骑兵占了大便宜，明军失利。一看势头不好，徐达于是适时地决定引兵撤退。而明军虽不占有骑兵的优势，但在“以步制骑”与火器方面却是不能被低估的，尤其是这些优势更利于防守。最后，明军得以一路退还到了边塞地区，没有重蹈李陵当年的覆辙。
王保保仍然一路穷追不舍，徐达“敛兵守塞”，以固垒之法总算是有效地挽回了局面，以至于虽付出数万伤亡的代价，但“彻侯功臣无死者，保保亦不敢入塞”。幸好是徐达挂帅，再加明军是一支百战之师，才避免了全军覆没的悲惨命运。
不过，徐达一生戎马，惟有此战败绩，这成了他一生的遗憾。如果他此战有幸不败，那么其功名足可媲美卫青了！
此次，汤和也受命随徐达行动，朱皇帝是想再给他一次立功表现的机会，以显得那万亩田地不是白给的。可是这一次，朱皇帝又失望了：汤和率偏师西进至断头山（约在今宁夏与内蒙古交界一带），被敌人击溃，指挥同知章存道战死。
再说西路，敌人的主力都集中到中路去了，所以西路还算比较顺利。如果东、西两路能得手，那么中路的牺牲也算值得了。
六月，冯胜师次兰州，傅友德率骁骑五千为前锋，直趋西凉，遇元沙实罕兵，击败之。追至永昌，又败元太尉朵儿只巴于忽刺罕口，大获其辎重牛马。傅友德等再进至扫林山，此时冯胜所率主力也已经赶到，他们一路横扫元兵，敌人大多溃逃。傅友德亲手射死元平章卜花，又率部追斩四百余人，降元太尉锁纳儿加、平章管著等。
元将上都驴知明大军将至，于是率所部吏民八百三十余户及时迎降。冯胜、陈德等抚辑其民，留官军守之，遂进至亦集乃路，元守将卜颜帖木儿全城降。西路军师次别笃山口，元岐王朵儿只班遁去，明军追获其平章长加奴等二十七人及马驼牛羊十余万。傅同志复引兵至瓜沙州，又败其兵，获金银印、马驼牛羊二万而还。
西路的行动比较顺利，而与西路几乎同时，东路军的李文忠部也展开了行动。
文忠率都督何文辉等兵至口温，元兵闻之，夜弃营遁，明军获其牛马辎重无算。明军进至合刺莽来，敌部落惊溃。明军复进至胪朐河（今克鲁伦河），文忠不得不下令说：“兵贵神速，千里袭人，难以负重。”于是便把大军的辎重留在了胪朐河一带，令东平侯韩政等守之。
文忠率士卒人持二十日粮，兼程而进。很快东路大军也赶到了土刺河一带（此时王保保主力已被吸引到南面去了），元太师合刺章蛮子率众渡河迎战明军，他一面命将士在河南岸严骑以待，一面令将士们将家属留在河北岸不远处。如此一来，元兵的士气和斗志被充分调动起来。
文忠督兵与敌人展开激战，几个回合以后，敌人才稍却。敌人又退至阿鲁浑河，明军赶上，双方继续激战。然而此时元兵益众，他们搏战不已，似乎毫无退却之心。就在双方鏖战之时，文忠的马中了流矢，他急下马持短兵与敌接战。他的随从刘义直前奋击，以自己的身体掩护着文忠。指挥李荣见情势紧急，便将自己的座骑让与了文忠，他自己则夺敌骑乘之。文忠得马，气益厉，他据鞍横槊，麾众更进。于是士卒鼓勇，皆殊死战，元兵最终被击退。
明军逐北至骋海，距离偏南的和林已经不远，所以为了保卫自己的心腹地区，蒙元方面的生力军不断在这一带聚集，看来他们是决定要拼死捍卫这块祖居之地了。不过敌人也许是有些预谋的，就像王保保的计策一样，一路诱使明军不断深入，疲惫明军，然后节节给明军造成杀伤，以粉碎明军的“猛虎掏心”计划。
经过一番大战，明军毫无取胜的征兆。文忠眼见形势不妙，于是改攻为守，并再次发挥自己从老舅那里学来的狡猾伎俩，“乃勒兵据险自固，而多张疑兵，纵所获马畜于野，示以闲暇”【1】。这样一直过了三天，敌人怀疑明军有埋伏，以至不敢逼近，慢慢的就开始退却；文忠见机也只得率众返回，他已经不敢再继续孤军深入了。
可是文忠一行竟在中途迷失了道路，当他们行至桑哥儿麻（此地据说接近成吉思汗建都的大斡耳朵）时，因为非常缺水，结果渴死了好多兵士。正在文忠大为头疼、默祷于天之际，突然他所骑乘的那匹马跑地长鸣，接着便有泉水涌出，仿佛奇迹一般！这一回才总算是让大伙渡过了难关。
是役，顾时与文忠分道入沙漠，他们的口粮已尽，遇元兵，士卒已疲乏不能战。顾时乃独引麾下数百人奋勇出战，他跃马大呼，将士们大受激励，这才将敌人击败，掠其辎重牛马还，军复大振。
不过东路军的损失仍是最惨重的，其中宣宁侯曹良臣至阿鲁浑河，孤军深入，败没；骁骑卫指挥使周显、振武卫指挥同知常荣（常遇春族弟）、神策卫指挥使张耀等皆战死。
曹良臣，寿州安丰人，幼有大志，成人后英毅有敢，颇为人所忌惮。元末动乱，良臣聚乡里子弟，训练为兵，立堡以御外侮，约束严明，无敢违其令者。后来他率所部归附了朱元璋，朱氏看重他的忠诚，命为江淮等处行中书省平章政事。
另外还有值得一说的是，廖永忠此次也参加了东路军的行动，甚至于所部有可能还打到了和林城下【2】。和林虽不是什么坚固城池，但明军远来，应该没有携带任何攻城装备。等到李文忠部撤退的消息传来后，廖永忠部大概也只好遗憾地选择了退走。因此这一战，他没功也没过。
七月，左副将军李文忠以所获故元官属子孙及军士家属一千八百四十余人送至京师。十一月，朱皇帝命赏甘肃京卫军士。不过，当时冯胜等因为藏匿所获马骡牛羊，结果没有给予任何奖赏，朱元璋还批评他们道：“（东汉“云台二十八将”之一的）祭遵为将，忧国奉公，（北宋良将）曹彬平江南，所载惟图书。汝等当法古人，省躬以补过。”
同月，朱皇帝又下诏征虏大将军魏国公徐达、左副将军曹国公李文忠，道：“今塞上苦寒，宜令士卒还驻山西、北平近地，以息其劳，卿等还京。”
虽然作战失利了，但朱皇帝“以（徐）达功大”，所以没有问罪；李文忠则得不偿失，“以故赏不行”；冯胜虽小有战果，但他不仅私藏缴获的骆驼等，还私弃甘州、宁夏、西凉、庄浪四城，最终竟因屡教不改被气头上的皇帝追夺券诰爵禄，“贬为庶人，录其家财”【3】，后来才又重新复职。
此次北征，虽然可谓是深入两千余里的历史壮举，堪与卫、霍当年相提并论，然而此役不但损耗了大量的财力、物力，也折损了数万大明的精锐之师及更多的战马，这让用兵几近如神的朱元璋也一直很不痛快，乃至于成了他一个解不开的心结，一生的缺憾。
直到二十五年后，朱皇帝想起此战还后悔不迭，专门写信告诫镇守北方边境的晋、燕二王说：“吾用兵一世，指挥诸将，未尝败北，致伤军士。正欲养锐，以观胡变，夫何诸将日请深入沙漠，不免疲兵于和林，此盖轻信无谋，以致伤生数万。”【4】
虽然主要责任在于将领，但这场失利并不是偶然的，显见作为最高军事统帅的朱元璋自己也无法完全推卸责任。这场失利显然大大推迟了明军进取云南、辽东等地的历史进程，为了恢复元气，明朝方面只好在几年内安于采取防御的基本国防策略了，再不敢轻言什么深入沙漠。
【1】《明史纪事本末》卷十
【2】见《明史·廖永忠传》：“明年北征，至和林。”
【3】《明兴野记》
【4】《明太祖实录》卷二百五十三