南燕灭亡后，在此地镇守的是青、冀二州刺史刘敬宣，他的参军司马道赐是晋朝宗室的远亲，听说刘裕在进攻司马休之，司马道赐便与同僚阴谋商议刺杀刘敬宣，然后占据广固，以响应司马休之。
他们趁着与刘敬宣交谈之时，突然抢过他防身用的佩刀，将他杀了，但随之，也被刘敬宣手下的文武将佐把他们全部斩杀，消息传到刘裕耳中，失去这个多年的心腹好友，刘裕非常哀伤。
赵伦之、沈林子的军队在石城打败了鲁轨，司马休之、鲁宗之准备前去营救，却没有来得及，于是与鲁轨等人一起逃奔襄阳，没想到鲁宗之的参军李应之紧闭城门，不让他们进去，司马休之等人只得全部逃奔后秦。
鲁宗之平时很受百姓拥护，人们纷纷掩护、保卫他，把他送出了国境，王镇恶等人率军前来追捕他们，到了国境没有追上，便回去了。
之前，司马休之曾向后秦、北魏国请求救助，后秦姚成王及司马国璠带兵抵达南阳，北魏长孙嵩抵达河东，准备前往救援，还没有到达，便听说司马休之已经失败，便都带兵回去了，司马休之逃到了长安后，被后秦王姚兴任命为扬州刺史，让他去侵袭骚扰襄阳城。
姚兴又派遣鲁宗之带兵进犯襄阳，还没有到，鲁宗之便突然去世了，他的儿子鲁轨继续带兵进犯，被雍州刺史赵伦之打败。
刘裕在消灭了司马休之之后获得了剑履上殿、入朝不趋、赞拜不名的礼仪，后来更是都督二十二州军事。
第二年正月，后秦国主姚兴去世，姚泓继位，姚泓孱弱，内乱迭起，政权不稳，刘裕认为这是消灭后秦的良机，于是动员军队严加戒备，准备讨伐后秦。
东晋朝廷加授他为中外大都督，兼任司、豫二州刺史，又任命他的世子刘义符为徐、兖二州刺史。琅琊王司马德文请求率领部队在前开路，到洛阳去整修祖先的陵墓，晋安帝下诏允许了。
大军出发前，宁州进献了一个琥珀枕给刘裕，刘裕因为琥珀可以治疗外伤，所以得到这个枕头非常高兴，命令把它捣碎，分别赐给即将要去北方征战的将士们。
刘裕任命自己的世子刘义符为中军将军，监太尉留府事，任命刘穆之为左仆射，并让他进入东府居住，总管朝廷内外一切事务，任命徐羡之为刘穆之的副手，朱龄石守卫宫廷及国家办事机构，刘怀镇守卫京师，其余人等各有安排。
刘穆之在内总管朝廷政务，在外负责军队的后勤给养工作，遇事当机立断，快如流水，因此一切事情，没有堆积迟滞的。各方宾客从四面八方云集到这里，各种请求诉讼千头万绪，内内外外，咨询禀报，堆满台阶屋子。他竟然能够眼睛看着辞讼的文字，手里写着答复的信件，耳朵同时听着下属的汇报，嘴里也应酬自如，而且同时进行的这四种工作互相之间又不混淆错乱，全部处置得当。
刘穆之跟随刘裕二十多年，是刘裕的心腹谋士，他办事思维极其缜密，刘裕想到的，刘穆之都做到了，刘裕没想到的，事后又证明是必须做的，刘穆之也做到了。
他又喜欢宾客来往，说笑谈天，从早到晚，毫无倦意。偶尔有闲暇时间，他便亲自抄书，参阅古籍，校订错误。刘穆之喜欢交朋结友，吃饭一定要宽大的饭桌，一大早便要准备十个人左右的饭食，从来没有一个人单独进餐。
他曾经告诉刘裕说：“我的家庭出身本来贫穷微贱，维持生计都很艰难，自从得到您的信任忝居高位以来，虽然心中常常想着节俭，但是从早到晚所需要的开销，仍然显得过于丰厚了一点，除此之外，再没有一点儿是对不起您的了。”
张邵曾私下里对刘裕说：“人生充满了危机，必须有一个长远的打算，刘穆之这样拼命工作，万一遇到什么不幸，谁可以替代他呢？而您所开创的功业已经到了这种程度，如果一旦发生不幸，您说该如何处理后事？”
刘裕沉默了许久说：“这自然要完全交给刘穆之和你了。”
八月十二日，刘裕率大军从建康出发，派王镇恶、檀道济带领步兵从淮河、淝水向许昌、洛阳进发；派朱超石、胡藩进军阳城；派沈田子、傅弘之进军武关；派沈林子、刘遵考带领水师从石门出发，从汴水进入黄河；派王仲德督领前锋的几支部队，开通从钜野被淤塞的旧河道，进入黄河。
出发前，刘穆之对王镇恶说：“从前晋文王把蜀地托付给邓艾，现在也要把关中委托给您了，刘公这次交给你讨伐秦国的重任，你可要努力啊！”
王镇恶拍着胸口保证：“我如果不能攻克收复关中地区，誓不再过长江！”
之前，叛离东晋的司马国璠兄弟曾聚集了数百名徒众暗中渡过淮水，晚上潜入广陵城。司马国璠带兵直接冲向官署的大厅，青州刺史檀祗惊觉之后走出来，被乱箭射伤退回去，他对左右的侍从说：“贼人趁天黑冲了进来，打算在我没有防备的情况下袭击我们，只要敲击五更鼓，他们害怕天亮，一定会逃跑。”侍从们按他的吩咐去做了，司马国璠的军队果然逃走。
刘裕大军出发后，檀祗又从广陵擅自率领军队掩杀逃亡之人，刘穆之担心檀祗会制造变乱，准备派军队防备。当时，檀韶担任江州刺史。张邵劝阻他说：“现在他们檀家兄弟，檀韶占据着长江中游，檀道济又是讨伐秦国军队的重要将领，如果露出一丝怀疑他的迹象，那么，留在京都的太尉府乃至朝廷，便会马上陷入危险，不如派人迎上去慰劳他，顺便观察一下他的意图，一定没有什么可担忧的。”刘穆之这才停止行动。
当年王廞失败的时候，僧人昙永把他的小儿子王华藏了起来，让他扮作童仆，提着自己的衣裳行李，跟在后面。码头巡逻检查的人对着孩子产生怀疑，昙永呵斥王华说：“你这个奴才，为什么还不快走！”还用棍子打了他十几下，才免于被识破。后来遇到大赦，王华才得以回到吴地。他因为不知道父亲到底是死是活，所以只穿布衣，只吃蔬菜，拒绝与别人交游，也不出来做官。这样过了十几年，刘裕听说了王华的贤名，想要任用他，因此为王廞发丧，让王华穿了三年的丧服，三年之后，征召他为徐州主簿。