改编自真实故事，和一般二战题材的影片不同，《钢琴家》这部电影以一种异乎寻常的克制手法，讲述了男主和其他犹太人所遭受的残忍对待，这种手法带来的“异乎寻常的真实感”，感动了奥斯卡和夏纳的评委
身为犹太人的席皮尔曼是一位知名的钢琴家，居住在华沙的大部分人都听过他的钢琴声，1939年9月，德国闪电战进攻波兰，华沙遭到了轰炸，电台的工作人员已经去避难了，但席皮尔曼还没有意识到问题的严重性，在房间被炸毁之前，他一直在演奏着钢琴
房间被炸毁之后席皮尔曼跟人们赶快跑出电台，他是一位在波兰很有名气的钢琴家，有许多追随者，在离开的过程中，遇到了其中之一的追随者多萝塔，两人相见恨晚，但由于轰炸还在持续，他们只能在拥挤的楼上进行短暂的交谈，然后各自避难去了....
席皮尔曼一家在忙着收拾行李，但席皮尔曼不想这样做，他表示自己哪都不去，如果要死的话，宁愿死在自己家里
这时他的弟弟示意众人安静，广播里有消息传来：“....根据伦敦BBC播出，英国政府....尚未得到德国政府对于最后的通牒的回复，正式向德国纳粹宣战”。席皮尔曼的父亲听到广播，高兴得低声地说到：太棒了，太棒了！....话还没说完，广播接着传道“根据预期.......（后面一段嘈杂声）”就没信号了，席皮尔曼的父亲跟弟弟，拍了几下，信号恢复接着道“...在数小时内，法国将发布类似的宣告，波兰将不再孤立无援。”听到广播里这么说，众人放下心来，拥抱成一团。他们享用了一顿美妙的晚餐，为英国和法国举杯庆祝，此时此刻，他们对未来充满信心.....
席皮尔曼父子三人神情严肃地站在街旁，看着一支德国大军大摇大摆的经过
现实情况没有他们一开始想象的乐观，由于英国和法国在对德宣战后没有做出进一步的行动，最终，华沙沦陷了。在后来的日子里，纳粹颁布了一系列针对犹太人的不公正法令，比如在犹太人家中，存放的现金不得超过2000波币，犹太人必须佩戴臂章作为身份标识等，甚至连咖啡馆都禁止犹太人进入，在纳粹重重剥削下，席皮尔曼全家只剩20波币，他们只好贱卖掉家里的钢琴来度日。
1940年事态还在进一步恶化，纳粹因为对犹太人深恨，而在华沙建立了犹太人特区，36万犹太人被圈进了这片只占城市4.5%的区域，他们一家也搬进了这片区域
在这片特区，这里的人们经常遭受军方的欺负，侮辱
高墙之内，人满为患，物价飞涨，食物短缺，一些小孩穿过墙底的小洞出去偷食物，但不是每一个都能活着回来，一些不幸的小孩还没穿过小洞回来，就已经被纳粹的人给打死了，有的甚至被枪毙而死，在影片中，有一个男孩从洞里爬回来，爬到一半，留在外面下半段的身体在被纳粹打着，主人公拉进来的时候，小孩已经昏倒了，腰被打断了。
由于生活的紧迫，席皮尔曼就在餐馆上兼职了弹琴，正弹得入迷，他得姐姐跑了进去，告诉席皮尔曼弟弟被警擦抓进去了，席皮尔曼随后利用了他在波兰的顶级钢琴家名气去救了弟弟出来，席皮尔曼的弟弟跟他性格不同，弟弟心里不肯屈服于这些为纳粹工作的犹太警察，一直在生闷气。晚上大家用餐时，纳粹军队开车进了犹太特区，停在了他们对面的楼下，车里出来一个军官带着几个士兵上楼搜查，一家人见状后赶紧熄灯，半遮着窗帘偷看。对面一家餐桌的位置正好对正着席皮尔曼家的窗户，他们看到，有一个军官在命令一个老人站起来，老人因为腿脚不方便而站不起来，军官发怒道“把他扔出去！”，随后几个士兵抬着老人直接扔出阳台.....
一家人看到这景象时，席皮尔曼的母亲吓得尖叫起来，好在军方没听到，一家人都沉默了，这让他们意识到，死亡随时可能降临自己头上，这种提心吊胆的日子，不知道还要过多久。
在后面的日子里，席皮尔曼得知没有工作许可证的犹太人将会被送到东部集中营工作，他为了给家人弄到许可证四处奔波，最终在一个名叫梅耶克的人的帮助下，成功申请到最后一张许可证。
一家人在集体宿舍中安顿好，但还没消停多久就被德国军官告知要离开，在宿舍里的人都被叫出去到外面站好，军官就在那选人出来，其中两人正是席皮尔曼的弟弟跟妹妹。选完人之后，军官就高声命令道：“其余的人穿好衣服回到这里，带着你们的东西，最多15公斤。”讲完后，旁边的女子就问：“您们要把我们送到哪里？”话音刚落，军官随后就对着她头上来了一枪，在场的人们没有一个发出声音，只有一个小婴儿的哭泣声，因为人们知道，反抗就是这个下场。
1942年8月，剩余的犹太人被德军集中在广场上，大家都怀着沉重的心情在广场上歇息，他们不知道要被德军送到哪里。广场上有一位妇女怀里抱着死去的婴儿，一边哭泣一边说着“我为什么会做这种事”。过了一段时间，德军的装甲车开进了广场，席皮尔曼的弟妹从车里跑了下来，紧紧地抱着家人，众人拥抱在了一起，互相安慰。过了一段时间，德军要求全部犹太人上火车，大家都不知道这趟火车是去哪里。在上去火车的路上，波兰警察们站在两旁，形成了一道有路线的路，在路上席皮尔曼被波兰警察给拉了出来，席皮尔曼看着家人父亲的背影，叫着“爸爸..爸爸....”席皮尔曼的父亲回过头，笑着挥手跟他道别，他挣扎着想去到家人得身边，但警察拦着不肯让他过去，随后一位警长把他按在地上喊道“你以为你自己在干嘛？我救了你一命，赶紧走，快走”
席皮尔曼就这样被警长海勒救了下来，这时，整个犹太特区已经变得一片狼藉，他独自游荡在街头，看到这场景，他不禁地伤心地哭了起来
他逃到了餐馆，遇到了餐馆的老板，他们两人就这样躲在餐馆里两天两夜。之后，他和其他人一起，作为最后一批犹太人为德军工作，可惜包括老板在内的一些年纪大的人被要求出列，趴在地上被一个一个枪毙了
在工作的日子里，席皮尔曼遇到了之前帮助过他的梅耶克，对方讲述了纳粹的种族灭绝行为，并透露了自己在策划一场起义，恰巧此时德国人为了表示他们的善意，允许一个人去城里带回三公斤土豆和若干面包，梅耶克利用这个便利，偷偷地把武器运到了墙里为了日后的起义，后面梅耶克帮助席皮尔曼逃出了犹太特区。席皮尔曼联系以前的 朋友，去到朋友的住处躲着。朋友为他提供了一间公寓跟一些食物，这让他稍微找回了一点活着的感觉。席皮尔曼见证了犹太人起义的经过，虽然最后失败了，但令人惊讶的是，面对敌我装备的巨大差异，犹太人坚持了足足一个月之久。
几天后，负责接头的人传达了一个噩耗：敌人发现了他们的反抗组织，很快就会追查到这里，建议席皮尔曼尽快逃走.....
饥寒交迫的席皮尔曼想起了接头人给他的一个纸条，纸条上有一个地址，他按着地址过去，不料那个地址正是当年他碰到的追随者多萝塔，这时的多萝塔已经结婚了并有孕在身，放松神经的席皮尔曼瘫坐在沙发上，并乞求对方给一片面包吃，吃完后他带着疲倦睡倒在沙发上了。
第二天早晨，席皮尔曼伴随多萝塔的大提琴声醒来，对面专注的身影让他的目光无法离开
多萝塔的丈夫为他提供了一间德国区的房间，街对面就是德国的战时医院和秘密警察局，真正意义上的“最危险的地方，就是最安全的地方”为了安全，多萝塔的丈夫需要在外面反锁门，每周都会一个人来送一次食物，慢慢地负责提供食物的人来访的间隔越来越长，席皮尔曼只能吃发芽的土豆果腹。
过了几天，多萝塔跟她的丈夫二人打算离开波兰，在告别时发现了病倒的席皮尔曼
不过以当时的情况，想请一位医生比登天还难，没有人会冒极大危险去救治犹太病人，尽管如此，夫妻二人还是找来了能信任的小儿科医生，并且留下了很多食物。
后面，席皮尔曼靠着夫妻二人提供的食物渐渐地恢复了过来，于此同时，波兰人在街上发起了一起暴动
连日的战火、此起彼伏的枪声使他无法入睡，躺在床上失眠的他，手指像在弹钢琴一样有节奏的跳动着。很快，德国人派出了坦克镇压暴动，附近的楼房全部都被轰炸一番，命大的他躲了过去。
离开这栋被炸烂的楼，街上还有德国军队扫荡着，他装死人，爬屋顶，钻垃圾桶靠着几个马铃薯撑过了敌人的清剿，此时的华沙已经成了一片废墟。
在找到最后一间屋子里，饥饿难忍的他找到了一罐水果汁，但因为长期的饥饿，使他没有力气打开罐头盖子，找到一根撬棍，撬的过程中，罐头掉在了地上发出了声响，这时一位德国军官走了进来，席皮尔曼紧张地跟军官对视着，军官没有攻击席皮尔曼，在对话中他对这位自称钢琴家的人有了兴趣，试探性地让他随便弹点什么。
军官似乎是被这钢琴声所打动，一曲结束许久之后才有反应，他确认了这是一位犹太人，并在参观完阁楼之后离开了，随后的日子里，军官在这楼房建立了德军指挥所，并提供了一件德军大衣跟食物给席皮尔曼度日，那位军官是上尉，那时候他见识到了德国军人对犹太人的残害。或许是受到家庭的影响颇深，威廉和他的一些同事都对纳粹党的行为感到非常不齿，他无法想象为什么要这样对待这些犹太人。所以也因此有很多朋友是犹太人，并且救过不少犹太人。
过了一段日子，路上行驶了一辆插着波兰国旗的卡车停在了这片废墟附近，最终席皮尔曼获救了。
1945年，波兰电台恢复广播，响起的正是和六年前一样的曲子，而表演者也是同一个人——席皮尔曼
故事的最后，席皮尔曼和一位朋友来到一处空地，这里已经看不到过去战俘营的影子了，朋友回忆说，当年他被释放的时候曾经遇到过一位德国军官，对方自称认识并帮助过席皮尔曼，可惜朋友没听清楚那人的名字。
席皮尔曼独自一人蹲在一旁，不知道在想些什么