百灵庙位于现在内蒙古包头市，自古以来是草原上著名的寺庙，庙内殿宇辉煌、廊柱林立，地处南北、东西交通要冲，历来为兵家必争之地。
百灵庙在民国时属于绥远省，1936年傅作义在这里大败日伪军，取得了中国自“九一八”事变以来第一个军事上的胜利。
绥远是民国时的一个省份，大概在现在内蒙古内黄河突出那一块，位于察哈尔、山西、陕西、宁夏之间。是日本征服中国努力争取的战略要地。
当时主政绥远的傅作义（晋绥军军人出身，同时兼任第35军军长）是一位爱国军人。1936年6月，日军关东军参谋长板垣征四郎窜到绥远，想拉拢傅作义，但被傅作义严正拒绝。
日军拉拢傅作义失败后，遂积极准备军事侵占绥远。傅作义估计日军会大举进攻，积极布置防务，准备抗击日军。国民政府也派遣部分军队入绥，支援傅作义。
1936年11月上旬，日军完成了所有战争准备。11月12日，日伪军开始出动，首先进攻绥远北方门户红格尔图，但被驻守红格尔图的中国军民合力阻挡。11月18日，傅作义调集的援军到达红格尔图，经两日激战，击溃日伪军，消灭大量日伪军，缴获大量军用物资。
取得红格尔图初战告捷的当晚，傅作义决定先发制人，收复日军盘踞的据点百灵庙。
百灵庙当时名义上属于国民政府，但日军勾结内蒙古王公德王（德穆楚克栋鲁普）将百灵庙经营成为侵略绥远的后方基地。布置了将近3000伪军，另安排四、五十人的日军军官任指导官，并储藏了大量军火、粮食，准备长期坚守。
百灵庙的四周都是群山，形成一道天然防护屏障，日伪军在山上构筑了大量工事，山外方圆几十公里是一览无余的旷野草原，没有任何障碍物，易守难攻。
根据百灵庙四周的地形，傅作义指挥晋绥军（山西和绥远的部队都属于晋绥军）隐秘接近日伪军，以正面攻击和迂回包抄相结合的方式进攻百灵庙。
11月底的绥远格外寒冷，气温低到零下20多度，大雪深到人的膝盖，凛冽的寒风就向野马一样在塞外荒原上狂奔。但傅作义怀着抗击日寇、收复失地的满腔热情，毅然指挥晋绥军奔向百灵庙。
11月23日18时，晋绥军进攻百灵庙的部队开始出发。部队冒着零下20多度的严寒，踏着没膝的积雪向百灵庙急速前进。进攻部队全部伪装，人、车、马都披上白布，借茫茫白雪和夜色掩护，快速向百灵庙集结。在白雪皑皑、夜色茫茫的旷野荒原上，晋绥军部队就像一道道白色的铁流，汇集到百灵庙周围，原本在野外上肆无忌惮狂奔的寒风也被驱得无影无踪。
深夜，晋绥军各部到达百灵庙外围，尖兵全部潜行到日伪军前沿阵地。由于部队行动秘密，日伪军没有任何察觉。
24日凌晨1时，晋绥军发动突然袭击。日伪军仓促应战，经不起晋绥军凌厉的攻势，前沿阵地很快被突破，晋绥军趁机向纵深发展。
日军驻百灵庙特务机关长胜岛角芳听到枪声后，立即出来查看，看到伪军纷纷溃退，立即拔除指挥刀亲自督战，并调集10余挺轻、重机枪到庙前的女儿山阵地，以猛烈的火力阻止晋绥军突击部队前进。
冲在最前面的晋绥军士兵纷纷被日军机枪打倒，没被打中的士兵立即趴在地上与日军对射。日军的机枪子弹像泼水一样扫向进攻部队，压得晋绥军士兵抬不起头来。晋绥军组织多次强攻，都因日军火力太猛而失败。战争进入僵局，持续长达三四个小时。
此时，离天明只有两个小时。天明后，日伪军增援部队马上就会到达，而且，日军飞机可以升空助战，对晋绥军进攻部队将是个巨大的威胁。如果不能在天明前解决战斗，百灵庙战局可能发生逆转。
晋绥军遂将山炮营向前推进，集中火力轰击女儿山。以装甲车掩护步兵冲锋，并调集9辆汽车给尖刀连，每个班乘坐一辆跟在装甲车向庙内冲击。
经过火力准备后，晋绥军开始强攻。山炮营集中火力向女儿山轰击，很快炸毁了山上的机枪阵地。日军的火力顿时减弱，装甲车开始突击。但日伪军仍负隅顽抗，向冲锋部队投出大量手榴弹。战斗非常激烈。
装甲车正在行进中，第一辆驾驶兵中弹牺牲，第二辆被炸坏不能行使，驾驶兵也受伤。这个受伤的驾驶兵挣扎着爬出第二辆装甲车，冒着密集的子弹和遍地爆炸的手榴弹，爬进第一辆装甲车，开足马力向敌猛冲，成功突入日军阵地内。满载步兵的9辆尖刀连汽车也鱼贯冲入，敌军阵地终于被打开缺口。
冲进日军阵地内的步兵立即下车，一部抢占突破口两侧，掩护后续部队跟进，另一部冲进庙内，与日伪军展开了逐屋争夺。
日军阵地被突破后，晋绥军后续部队立即向突破口涌进，并向两侧席卷，开始扫荡外围阵地。日伪军经不起晋绥军的攻击，纷纷退入庙内。晋绥军稳定了外围阵地后，全部涌进庙内，与突击队一起合力清扫残敌。
在步兵进攻百灵庙的同时，骑兵部队夺取了日军的飞机场，切断了日伪军的空中退路。
百灵庙内日伪军在晋绥军的猛烈打击下，斗志逐渐瓦解。本是中国人的部分伪蒙军逐渐放弃了抵抗，20余人的伪蒙军在战场直接起义，调转枪口向日军指挥官射击。日军特务机关长胜岛角芳和伪蒙军师长穆克登宝见大势已去，慌忙乘汽车逃窜。
晋绥军乘日伪军失去指挥混乱之机，立即展开分割包围。激战至24日上午，全歼伪军，收复了百灵庙。
百灵庙一战，共击毙日伪军300余人，其中日军军官20余人，击伤日伪军600余人，俘虏伪军300余人，缴获面粉2万袋和大量武器装备。
日伪军被驱逐出百灵庙后，不甘心失败，以锡拉木楞庙为据点，纠集数千人于12月3日向百灵庙反攻。傅作义以一部坚守百灵庙，诱敌深入，另派一部事先潜伏在庙外，待日伪军深入庙内时，庙外潜伏部队突然从后面向日伪军进攻，庙内部队乘机反攻。日伪军经不起晋绥军的前后夹攻，大败而去。
挫败日伪军对百灵庙的反攻后，傅作义乘胜前进，指挥部队进攻日军盘踞的据点锡拉木楞庙。
日伪军反攻失败后，部分伪军开始动摇，伪军内部、伪军与日军顾问之间逐渐产生了矛盾，关系开始恶化，先后有多部伪军反正脱离日军控制，接受晋绥军改编。锡拉木楞庙日伪力量大大减弱。
12月9日上午，晋绥军到达锡拉木楞庙。此时锡拉木楞庙的伪蒙军呈土崩瓦解之势，当日又有三个团的伪军反正。残余伪军如惊弓之鸟，与晋绥军稍一接触，就全线溃散，全部逃往庙外茫茫草地。晋绥军轻松收复锡拉木楞庙。
至此，百灵庙之战全部结束。日军在绥远的阴谋被彻底挫败。
傅作义在百灵庙之战中能取得重大胜利，政治上得益于全国高涨的抗日热情，在战争中，绥远人们大力支持，部分绥远人们直接投身到战场。在军事上，傅作义除了主动、积极防守外，还掌握大量机动部队，适时向日军发动进攻，以骑兵抄袭敌后取得奇袭效果。进攻百灵庙的部队更是“昼伏夜行，竭力秘密”前进到日伪军阵地边沿，隐秘工作做得非常好，发起攻击时，日伪军才反应过来。
傅作义在百灵庙的胜利，一扫全国接连丧师失地的阴霾，让全国人们看到了战胜日本的希望。全国各个派别、团体的抗战信心备受鼓舞，其中受影响最大的是正在陕西“围剿”红军的东北军。
“九一八”事变以来，东北军一退东北，二退热河，后又被调到陕西“围剿”红军，充当内战的炮灰，“打回东北老家”成为遥远的泡影。整个东北军人心涣散，士气低落。
傅作义在百灵庙胜利的消息传来，东北军官兵纷纷要求出兵绥远抗击日寇，部分将士更是找到张学良痛哭“即使中央不同意，我们也要自行组织队伍援绥”。张学良的爱国自尊心被深深刺痛，多次向蒋介石请缨抗战，但都被拒绝，无奈之下发动了“西安事变”，促成了全国抗日统一战线的形成。
在傅作义影响下，张学良终于帮东北军扳回一局。