当初，刘裕平定南燕，即有乘势西向关、洛之意，值卢循为乱，故其事不谐。荆、雍既平，方谋外略。恰逢后秦姚兴死，姚泓继立，诸子相杀，关中大乱，刘裕又起北伐之意。
义熙十二年二月，朝廷诏令太尉刘裕为中外大都督。加领司、豫二州刺史，以其世子刘义符为徐、兖二州刺史。刘裕欲将出兵伐秦，中外戒严，下书朝廷内外道："吾倡大义，首自本州，克复皇祚，遂建勋烈。外夷勍（qíng强大）敌，内清奸宄（guǐ奸），皆邦人州党竭诚尽力之效也。情若风霜，义贯金石。今当奉辞西旆（pèi旗尾装饰），有事关、河，弱嗣叨蒙，复忝今授，情事缠绵，可谓深矣。顷军国务殷，刑辟未息。眷言怀之，能不多叹。其犯罪五岁以还，可一原遣。文武劳满未蒙荣转者，便随班序报。"
这日，刘裕与刘穆之在东府商议军国大事，刘裕道：“诸事皆备，卿以为何日出兵？”
刘穆之道：“太尉，万物皆全，只是尚欠一味引药，此药不到，大军不可遽发。”
刘裕奇道：“哦，何药竟有如此奇效？”
刘穆之低声道：“琅邪王”
刘裕恍然大悟，明白刘穆之言下之意为大军北伐，留下琅琊王在京，殊难预料。
次日，刘裕随带武士，剑履上殿，奏请安帝，请奉琅邪王司马德文北伐，以其义声怀远，荡平关洛，修敬山陵，安帝闻奏，大哭，拉着司马德文的手不放，道：“期期不可为之。”
司马德文知其事不可更改，脸色如常道：“祖宗陵庙不曾祭扫，至今已逾百年，德文躬逢其盛，亦何幸哉！”诏遂许之。 五月，后秦黄门侍郎尹冲率其弟尹泓前来归顺，刘裕大喜，详加询问，由是后秦种种情势尽在掌握。
八月丁巳，率大众发京师。以世子为中军将军，监太尉留府事。尚书右仆射刘穆之为左仆射，领监军、中军二府军司，入居东府，总摄内外。九月，公次于彭城，加领徐州刺史。
八月初一，朝廷宣布大赦天下，北伐大军齐集京师，猛将如云，谋臣似雨，刘裕见之，豪气顿生，逸兴遄飞。时宁州（今云南）刺史爨（cuàn烧火做饭，此处为姓氏，当地土司）龙颜遣使献朝拜太尉刘裕，使者拜见已毕，随从捧上一锦盒，使者打开锦盒，只见里面是一琥珀枕，通体金黄透亮，内有一小蛇，做腾飞状，使者道：“太尉，此乃宁州所献稀罕之物，百年难得，有宁神安睡之效，望太尉笑纳。”说罢，将此琥珀枕呈于刘裕面前的案几之上。
刘裕甚奇之，将其拿在手上，摩挲把玩良久。
使者又道：“此物另有一种神奇之处，乃是治伤良药，若有创伤，将其粉末略涂伤口之上，流血立止，疼痛少解。”
刘裕闻言，脸色一变，立刻将此琥珀枕摔于地上，登时将其摔得四分五裂，惨不忍睹。
使者见之，大惊失色道：“太尉，若不喜之，小臣自当取还，另择宝物献上，如此暴殄天物，岂不可惜？”
刘裕疾言厉色道：“尔等岂不闻纣王为象箸，箕子叹其必亡，尔等欲使我为纣王乎？”
使者闻之，面色大变，口称不敢，跪倒叩头不已。
刘裕面色稍缓道：“远方之人，未服王化，我不怪罪，尔等回至宁州，转告刺史，谨守本分，保境安民，不可再以奇巧之物进献。”
使者诺诺而退。
待其走后，刘裕命人将地上摔得粉碎的琥珀枕收拾起来，碾成粉末，分赐北征将士，诸将闻之，无不感奋。刘裕以其世子刘义符为中军将军，监太尉留府事。刘穆之为左仆射，领监军、中军二府军司，入居东府，总摄内外。以太尉左司马徐羡之为刘穆之副手，左将军朱龄石守卫殿省，徐州刺史刘怀慎守卫京师，扬州别驾从事史张裕任留州事。刘怀慎，为刘怀肃弟，为刘裕从母弟。刘穆之内总朝政，外供军旅，决断如流，事无滞碍，一时之间，宾客盈门，求告之人，络绎不绝，性又奢豪，既好宾客，食必方丈，数十人为宴，饮馔精美，以此为常。
有人心怀妒忌，间于刘裕，刘裕临行之时便语重心长的对刘穆之道：“道和，案牍劳神，当惜此微躯，来日方长啊。”
刘穆之一听之下，便即明白何意，激动的对刘裕道：“穆之家本贫贱，难以为继。自从公以来，虽心存节俭，而朝夕所费，颇为过丰。自此以外，一毫不以负公。”
刘裕微微一笑道：“道和，言重了，我以国家之重一以委卿，何惜小费，乃忧卿过于操劳耳。”
刘穆之拜谢道：“穆之愿公早成大业。”
刘穆之告辞后，刘裕旧友徐羡之乘机进言道：“人无远虑，必有近忧。我观穆之操劳过甚，万一不虞，谁可代之？公业如此。当有所备。”
刘裕仔细看了看徐羡之道：“故此委卿为道和之副耳。”
徐羡之一揖到地道：“必不负公所托。”
八月十二日，刘裕兵发建康，遣龙骧将军王镇恶、冠军将军檀道济将步军自淮、淝向许、洛，新野太守朱超石、宁朔将军胡藩趋阳城（今河南登封），振武将军沈田子、建威将军傅弘之趋武关，建武将军沈林子、彭城内史刘遵考将水军出石门，自汴入河，以冀州刺史王仲德督前锋诸军，开巨野入河，数路大军齐发，约十万之众，兵锋直指洛阳。刘遵考，刘裕之族弟也。
行前，刘穆之召见王镇恶于积弩堂道：“公悯晋遗民，志复关洛，昔晋文王委邓艾伐蜀，终克大功，今亦委卿以伐秦之任，卿其勉之！勿辜此授。”王镇恶应声道：“我不克关中，誓不复济江而还也！若侥幸克复关洛，公不受九锡之赏，君之过也。”二人击掌为誓，相顾大笑。
王镇恶、檀道济军入秦境，所向皆捷。秦将王苟生以漆丘（今河南商丘）降镇恶，徐州刺史姚掌以项城降道济，诸屯守皆望风披靡。惟新蔡太守董遵誓死不降，檀道济率军攻城，自旦至暮，内外城克，檀道济纵军大掠，城内百姓被杀者十不存一，有兵士执董遵于檀道济马前，檀道济呵斥其道：“你本晋人，奈何抗拒王师？”
董遵面不改色道：“我大秦好儒礼佛，实乃礼仪之邦，晋室东迁，已成蛮夷，况古之王者伐国，待士以礼。君奈何行此不义之师，待国士以非礼乎？”
檀道济闻言，恼羞成怒，道：“中原腥膻日久，当好好荡涤一番。”遂杀之。
随后，檀道济进克许昌，获秦颍川太守姚垣及大将杨业。沈林子自汴入河，襄邑（今河南睢县）人董神虎聚众千余人来降。太尉刘裕任其为参军。沈林子与神虎共攻仓垣，克之，秦兖州刺史韦华降。董神虎擅还襄邑，沈林子惧其为乱，领兵袭杀之。秦东平公姚绍闻报，启奏秦主姚泓道：“晋兵已过许昌，洛阳旦暮可下，兵锋不日将西指长安，陛下当以为备。现今安定（今甘肃泾川）孤远，一旦有变，难以救援，宜迁其镇户，内实京畿，可得精兵十万，足以横行天下。虽晋、夏交侵，犹不亡国。不然，晋攻豫州，夏攻安定，将若之何？事机已至，宜在速决。”
左仆射梁喜反对道：“齐公姚恢素有威名，为岭北之人所惮，况镇人数与夏战，已与勃勃结下血海深仇，理应守死无贰。勃勃终不能越安定而远寇京畿；若无安定，虏马必至于郿县，关中当无宁日矣。今我兵足以拒晋，岂可未有忧危先自削损也。”
姚泓认为梁喜之言有理，遂从之。
姚绍出，不禁仰天长叹道：“竖子不足为谋也，我等当为晋所擒也。”
吏部郎懿横密言于姚泓道：“姚恢于广平公之难，有大功于陛下。自陛下龙飞继统，未有厚赏以酬其功。今齐公外则致之死地，内则不豫朝权，安定人自以孤危近寇，思南迁者十室而九，若姚恢拥精兵数万，鼓行而向京师，得不为社稷之忧乎！陛下宜征其还朝廷以安其心。”
姚泓自作聪明道：“姚恢若怀不逞之心，征之适所以取祸耳。”又不听从。懿横也叹了口气，摇头不语。王仲德率水军入河，将逼滑台。魏兖州刺史尉建见晋军势大，弃城而走，北渡黄河逃回魏国。
王仲德率军进入滑台，得意洋洋的对左右道：“我本欲以布帛七万匹假道于魏，孰料魏之守将弃城而去，只好为我三军征衣矣。”将士闻之，欢声雷动。
魏主拓跋嗣闻尉建不战而逃，大怒，令人执之，另遣叔孙建、公孙表率大军自河内向枋头而来，引兵渡河，来至滑台城下，晋军见魏军来势汹汹，不敢与战，紧闭城门，高悬吊桥，弯弓搭箭，防备甚严。
叔孙建命斩尉建于城下，投尸于河，对城上大呼道：“来将可是晋征虏将军王仲德？我大魏礼数不周，已斩其人，请王将军回话，因何占我城池，欺我大魏无人乎？”
王仲德在城上闻之，暗使其司马竺和之对答道：“刘太尉使王征虏自河入洛，清扫山陵，非敢为寇于魏也。魏之守将自弃滑台而去，王征虏借空城以息兵，自当西去，于晋、魏之好无碍也，何必扬旗鸣鼓以耀威乎！”
叔孙建闻言，哼了一声道：“小小司马所言，岂能为信。”
竺和之在城上听道，不进莞尔一笑道：“若安平公不信小人之言，可与我同去彭城与刘太尉面谈，以校真伪。”
王仲德闻言，不觉捂嘴暗笑，谅他叔孙建亦不敢赴彭城之约。
孰料叔孙建一口答应，连说了几声：“好，好，我便与你同去彭城，会会刘太尉，看他是何等英雄人物。”公孙表在旁一听，吓得急拉叔孙建衣袖，低声道：“公为一军统帅，万不可如此行险。” 叔孙建充耳不闻，神色如常。
竺和之见弄巧成拙，不觉目瞪口呆，不知如何是好，转过头看着王仲德，王仲德也是无奈苦笑，只得修书一封，说明原委，令人快马送至彭城，又命竺和之出城陪同叔孙建前往彭城。
叔孙建行前，亦令魏河内镇将于栗磾（dī黑石）筑垒于河上以备晋军，且为公孙表后援，公孙表立刻上表魏主拓跋嗣备述详情，拓跋嗣览表后，叹息道：“安平公一身皆是胆。”
十数日后，竺和之陪叔孙建来至彭城，入得府中，刘裕降阶相迎，分宾主落座后，叔孙建见刘裕身形高大，仪表堂堂，不由得赞道：“我在魏国尝闻吴儿柔弱，今见太尉，实大缪也，好似我北国儿郎。”
刘裕左右听其言语无礼，皆手按刀柄，怒目而视。
刘裕见叔孙建赤面虬髯，双目炯炯，又敢孤身犯险，知其为胆大心细之人，不可小觑，遂哈哈大笑道：“安平公所言极是，我于南人之中尚属魁伟，故忝此任，若公至我朝，当居裕之右。”
叔孙建知他相戏，不禁与刘裕相顾大笑。宾主相谈正欢之时，叔孙建忽一指竺和之，佯怒道：“我魏晋两国一向交好，因何兵戈相向，夺我滑台？”
竺和之闻言吓了一跳，不敢讲话，直瞪着刘裕，刘裕起身拜谢道：“洛阳，乃晋之旧都也，而羌虏据之；晋欲修复山陵而不得久矣。司马休之、国璠兄弟，鲁宗之父子，桓氏诸人，皆晋之叛将，而羌虏收之以为晋患，屡屡寇边。由此二者，晋将伐秦，欲假道于魏，非敢为大国之敌也。一俟（qi等待）旧都克复，便即归还滑台。望公明察，告以魏主。”
叔孙建听后，满意的点点头，又诘责道：“然魏秦有婚姻之好，伐秦即伐魏，且唇亡齿寒，安知晋夺洛阳后，不北寇魏境？”
刘裕听后，微微一笑道：“昔年魏燕亦有婚姻之好，然魏灭燕。天无二日，各争雄长，若晋有余力，自会北上，魏若有心，亦必南下。今日事以今日论之，他日事自有他论，何必挂怀？”
叔孙建闻言一怔，不由得竖起大拇指，道：“太尉快人快语，真英雄也。愿日后疆场上一较高下。”
刘裕笑道：“能与安平公为敌，不枉此生。”
叔孙建又是一阵大笑。
刘裕摆下酒宴，招待贵客，二人开始闲谈，刘裕问道：“裕闻贵国大将于栗磾有勇名，善使黑槊，可于马上左右开弓，有万夫不当之勇，可真有其事？”
叔孙建甚为得意道：“我大魏似此将者何止千人。”
刘裕大为叹服，立刻亲自修书与之，托叔孙建带去，以表仰慕之情，题曰“黑槊公麾下云云”。
叔孙建又在彭城盘桓数日，刘裕极尽地主之谊，叔孙建满意而归，将种种情事禀告魏主，极言晋人易与，拓跋嗣自是有轻晋之心，因拜于栗磾为黑槊将军，以彰其事。又令公孙表率军退回河北，监视晋军，任其西进，不复再取滑台。