当初，张保想要杀掉瓜州主簿令狐整，因为令狐整很有声望，杀掉他会失去民心，所以张保尽量表面上尊敬令狐整，内心却非常忌惮他。
令狐整察觉到了张保的心思，也假装亲近、依附张保，并派人劝张保说：“现在独孤信的军队正在渐渐逼近凉州，凉州的形势孤立无援，十分危险，恐怕不能抵挡独孤信的军队。应当赶快分派一些精锐部队援救凉州。但是，成败的关键在于将领的能力。令狐整是个文武兼备的人才，如果能派他率领军队前往凉州，没有不成的事。”张保采纳了来人的建议。
令狐整带领军队行军到了玉门，他召集英雄豪杰，历数张保的罪状，带领骑兵返回瓜州袭击张保。他先攻克晋昌，杀掉了吕兴，然后攻打瓜州。由于当地人平素都信服令狐整，因此都叛离张保，向令狐整投降，张保仓皇逃往吐谷浑。
众人一致推举令狐整担任瓜州刺史，令狐整对大家说：“我们因为张保叛逆，恐怕会使全瓜州人陷入不义的境地，所以才会共同讨伐他。今天我又被大家推举为瓜州刺史，这是明知错误而效仿，会罪上加罪啊。”
于是，他便推举西魏派来出使波斯的张道义暂且主持瓜州的日常事务，并将情况上报朝廷。宇文泰让申徽担任瓜州刺史，令狐整担任寿昌太守，并加封他襄武男爵。
令狐整率领他的宗族、同乡共三千多人进京入朝，跟随宇文泰征讨叛逆，后来逐步升官至骠骑大将军、开府仪同三司，又加官侍中。
西魏调并州刺史王思政担任荆州刺史，并让他从诸将中推举一位可以代替自己镇守并州治所玉璧的将领。王思政推举了晋州刺史韦孝宽，宇文泰采纳了他的意见。
年过五旬的东魏丞相高欢再次率领崤山以东的全部兵马准备讨伐西魏，他从邺城出发，到晋阳与其他将领会师。九月，他们到达了位于汾河下游的重要据点玉璧，将玉璧团团包围起来。他们向西魏的军队挑战，西魏的军队却不出来应战。
高欢的十万大军日夜不停地进攻玉璧，韦孝宽随机应变地抵抗东魏的进攻。玉璧城中没有水源，城中的人要从汾河汲水，高欢于是派人在汾河上游把水决开，使汾河水远离玉璧城，他们在一个晚上便完成了这一工程。
高欢又在玉璧城的南面堆起了一座土山，想利用这座土山攻进城里。玉璧城上原来就有两座城楼，韦孝宽让人把木头绑在楼上接高，让它的高度高于东魏堆的土山，投石掷火，以抵御东魏的进攻。
高欢见到这种情况，便派人告诉韦孝宽说：“即使你把木头绑在楼上，使楼高到天上，我还是会凿地洞攻克你。”
然后，高欢果然派人掘地，挖了十多条地道，又采用术士李业兴的“孤虚法”调集人马，一齐进攻玉璧城的北面。
玉璧城北，是山高谷深的险要之地，韦孝宽让人挖了一条长长的大沟，以此长沟来阻截高欢挖的地道。他挑选了精兵良将驻守在大沟上面，每当有敌人穿过地道来到大沟里，战士们便都能把他们就地抓住或杀掉。
韦孝宽又叫人在沟外面堆积了许多木柴，贮备了一些火种，一旦地道里有敌人，便把柴草塞入地道，把火种投掷进去，并用皮囊吹火，地道里的敌人全部被烧得焦头烂额。
东魏军使用一种坚固的攻城车撞击城墙，由于战车极重极尖，所到之处，没有不被摧毁撞坏的，西魏没有一种武器可以抵抗它。
韦孝宽便把无数布匹缝制成一条条巨大的幔帐，顺着攻城车撞墙的方向张开，因为布是悬在空中的，战车以硬碰柔，力量被消解一空。见此计不行，东魏军又把松枝和麻干之类的易燃物绑在车前的长竿上，又在其中灌油点燃，想用来烧毁韦孝宽的幔帐，并且还想烧毁城楼。
韦孝宽便让人制造了一种很长的钩，并把它的刀刃磨得很锋利，等火竿快要到时，用长钩远远地切断它，附着在火竿上的松枝和麻干便都纷纷坠落。
东魏军又在玉璧城墙下四面八方挖了二十条地道，并在地道中用木枝支撑地上的城墙，然后放火烧掉这些木柱，于是城墙坍塌了。
韦孝宽在城墙坍塌的地方竖起木栅栏，后面施以尖槊弓弩来保卫玉璧城，使敌人无法攻进城去。在城外，东魏攻打玉璧城的方法已经用尽，而在城内，韦孝宽抵御敌人的办法还绰绰有余，不久，他从高欢手里夺占了那座堆起的土山。
高欢不知道怎么办才好，就派祖珽去劝说韦孝宽：“您独自一个人守卫这座孤城，四面又没有救兵，恐怕最终也不能保全它，为什么不投降呢？”
韦孝宽回答说：“我的城池坚固无比，士兵和粮食都绰绰有余，进攻的人是白白辛苦，而守城的人却以逸待劳，哪有一个月之内就需要别人援助的，我倒是担心你们这么多人有回不去的危险。我韦孝宽是个堂堂关西的男子汉，一定不会做投降的懦夫！”
祖珽又对城里的人大喊说：“韦孝宽享受着西魏的荣华富贵和功名利禄，倒还可以这样做，但你们这些士兵和百姓，为什么还要跟他一起赴汤蹈火呢？”接着，向城里射去悬赏捉拿韦孝宽的报酬数额，上面写道：“凡是能斩杀韦孝宽而投降的人，就拜他为太尉，并且加封他为开国郡公，赏赐万匹绢帛。”
韦孝宽便在它的背面提笔写字射回城外，上写：“凡是能杀掉高欢的人，也能得到同样奖赏。”
东魏对玉璧城苦苦攻打了五十余天，战死以及病死的士兵总共达到七万人，全都埋在一个大坟墓里。高欢的智谋用尽了，也未攻下玉璧城，他又气又急，一病不起。随后，东魏军队解除了围攻，离开了这里。
之前，高欢曾另外派侯景率领军队进兵齐子岭，西魏建州刺史杨檦镇守在车厢这里，他听到东魏向齐子岭进军的消息之后，害怕东魏侵犯邵郡，就率领骑兵前去抵御。侯景听说杨檦到来，就让人砍了许多树木堆在路上，阻断了六十多里道路，仍然惴惴不安，便回到了河阳。
西魏任命韦孝宽为骠骑大将军，开府仪同三司，并晋升爵位为建忠公，当时人们都认为王思政很能识人。
高欢从玉璧返回东魏的途中，他的军中传言说韦孝宽用定攻弩射杀了丞相高欢，西魏的人听到这一传言后，也发布敕令说：“强劲的努一射，凶恶的人自然就死掉。”
高欢听到了这些话，勉强坐起来召见权贵们，他让斛律金作了一首《敕勒歌》：
敕勒川，阴山下；天似穹庐，笼盖四野；天苍苍，野茫茫，风吹草低见牛羊。
高欢自己也跟着乐曲和唱，悲哀之感油然而生，不禁痛哭流涕。
高欢派遣段韶跟随太原公高洋镇守邺城，召长子高澄到晋阳相会。
东魏司徒、河南大将军、大行台侯景，右脚比左脚短，所以，骑马射箭对他来说并不擅长，但是他足智多谋。高敖曹、彭乐等将领都是当时最勇猛的，侯景却很轻视他们，对人说：“这些人就像受惊的猪一样横冲直撞、流窜侵扰，能撞到哪里去呢！”
侯景曾对丞相高欢说：“我愿意率领三万人马，横扫天下，应当渡过长江把萧衍那老头子绑来，让他做太平寺的寺主。”高欢派他带领十万兵马，全权管理黄河以南地区，对他的依靠、任用，就好像他是自己的半个身体一样。
侯景一贯轻视高澄，他曾对司马子如说：“高王在世的时候，我不敢有异心，如果高王去世了，我不可能与那个鲜卑小子共事！”司马子如赶快捂住了侯景的嘴。
到了高欢病入膏肓的时候，高澄便假借高欢的名义写了一封书信召侯景前来。以前，侯景曾与高欢有过约定，他对高欢说：“小人我在远处掌握着军队，人们很容易从中搞鬼。以后凡是您赐给我的书信都请您加一个小黑点。”高欢同意了侯景的要求。
现在，侯景拿到了高欢的书信后，信上却没有黑点，他知道其中有诈，便推托没有去。后来他又听说高欢的病情已经很严重了，就采纳了他的行台王伟的计策，聚集军队，巩固自己的势力。
高欢问高澄：“虽然是我病了，可你的脸上还有别的忧虑，这是为什么？”没等到高澄回答，高欢又说：“莫不是担心侯景要反叛？”
高澄回答说：“是的。”
高欢说：“侯景专制河南已有十四年了，他一直飞扬跋扈，有夺取天下的志向，只有我能驾御他，你很难驾御他。现在天下还没有安定，如果我死了，你不要马上发丧。库狄干这位鲜卑老人，斛律金这位敕勒老人，他们俩都是性格耿直、强劲有力的人，绝不会辜负你的；可朱浑道元、刘丰生他们俩远道前来投奔我，也一定没有背离我们的心意；潘相乐原本是个道人，心地和善厚道，你们兄弟几个人会得到他的帮助的；韩轨有点耿直愚鲁，你们应该宽容待他；彭乐的内心很难猜测，应该提防他。所有人当中，能够打败侯景的，只有慕容绍宗这一个人。我故意不让他得到富贵，就是要把他留给你。”
高欢歇了口气，接着说：“段孝先是个忠贞守节、仁德厚道的人，他智勇双全，在所有内外亲族中，只有这个孩子是个可造的人才，军旅大事可以和他共同谋划。”
过了很久，高欢才缓缓说道：“邙山战役时，我没有采纳陈元康的忠告，给你留下了隐患，我死不瞑目。”
正月初一，恰巧发生日偏食，高欢在垂死之时叹道：“日食是为了我吗？死亦何恨！”正月初八，高欢薨逝于晋阳的家中，时年五十二。