1999年的美国一家养老院里，老人们正在观看电视节目，当频道被切换到60多年前的一部老电影《礼帽》时，现年108岁高龄的保罗触景生情，当场落泪离场。旁边的老人艾丽关心地跟过来询问。于是，一段尘封多年的往事在老人的讲述中娓娓道来。
1935年的大萧条时期，美国冷山监狱来了一个特殊的黑人犯人——约翰科菲。他身形巨大，却胆小如鼠，很爱哭，也很怕黑。约翰被关在监狱的E区，这是所有死刑犯所在的监区，时年44岁的保罗是E区的主管。因为E区的地板是绿色的，所有死刑犯都将在这里度过他们人生的最后一英里，所以E区也被称为绿色一英里，这也是本片电影名字绿里的由来，因为知道这些死刑犯将在这里度过人生最后的光阴，而如果稍微受点刺激就有可能伤人伤己，所以E区的狱警都很善待这些死囚。除了佩西，仗着他姑姑是州长的老婆，整日狐假虎威，欺负犯人更是家常便饭，稍不顺意还能把犯人的手指打断。
约翰的罪名是杀害了一对幼小的双胞胎姐妹。保罗翻阅着约翰档案的时候，监狱长哈尔给他送来中分叔的死刑执行日期，俩人闲聊了几句，哈尔的妻子脑部得了肿瘤，情况越来越糟糕。哈尔劝保罗先忍忍，因为佩西已经申请调往精神病院工作，不久就会离开。
中分叔被送上电椅执行死刑后，佩西对着他的尸体调侃，更遭到同事的厌恶。佩西提出只要让他亲自执行一次死刑，他就会马上调走。果然是心理变态，看着犯人被处死还不够，还想亲自动手。
犯人戴尔驯服了闯入E区的一只老鼠，还给它取名叫金格先生，金格先生的拿手好戏是玩滚筒。它的到来，给戴尔人生的最后一程带来了欢乐。几个狱警也同意让戴尔养着金格先生。
保罗虽然外表看起来十分强健，但却被尿道炎困扰多年，平常人随时随地迎风尿三丈的畅快是他难以触摸的梦想。这天E区新来的死刑犯比利靠着装疯卖傻偷袭了几个狱警，更是击中了保罗的下身，新伤加旧疾，让他瞬间觉得人间不值得停留。就在此时，约翰展现了他的第一次神迹。原来约翰除了未卜先知外，还有一种神奇的异能。他能将别人的疾病或者创伤吸纳入自己体内，以此来治愈他们 ，再把这些像虫子般的病毒从口中吐出，以使自己不受其害，只是他每次发功后都会极其疲惫。他一把抓住了保罗的分身， 随着约翰发功时灯泡的爆裂，困扰保罗多年的尿道炎被治好了。完成治愈的约翰累成了狗，而满血复活的保罗一回家就抱着妻子往床上走。整夜里，船儿在港湾里不停地进出，终于在第四次时停泊入位了。
通过这件事，保罗觉得约翰不像是会杀人的人，他虽然身形高大，性格却很温和，更是出手治好了困扰自己多年的膀胱炎，上帝怎么可能把这样的异能赋于一个杀人犯身上呢。于是他请了假去拜访约翰的辩护律师，但对方一口咬定，人就是约翰杀的。
比利的到来搞得E区鸡飞狗跳， 朝狱警脸上吐口水，喷巧克力饼。唯有关禁闭室才是他唯一害怕的。 当两个人造人，哦不，当两个人渣碰撞到一起时，人渣二号比利明显完胜人渣一号佩西。比利趁佩西不注意时勒住了他的脖子，还用一阳指隔着裤子爆了佩西的菊花，把他吓尿了，是真的尿了。佩西的自尊心受到极大伤害，颜面尽失。饱受佩西欺负的戴尔，难得遇到这样爽心出气的事，放开怀哈哈大笑起来，还不忘讽刺佩西欺软怕硬。这让佩西更下不来台，也为后来戴尔的惨死埋下了祸根。
戴尔的刑期临近，他唯一放不下的是老鼠金格先生。保罗和布鲁托编造了一个老鼠村的地方说那里可以收留金格先生而且它在那里会过得很好。刚交待完身后事，金格先生就被佩西一脚踩得只剩一口气了。戴尔生无可恋的时候，约翰再次出手，用他的异能拯救了濒临死亡的金格先生，戴尔喜极而泣，同时也看得在场所有人目瞪口呆。
戴尔放心地走上刑场，而为了早日摆脱佩西，保罗决定让佩西给戴尔行刑，而后让他调走。有人说过，永远都不要低估人性的恶。佩西在行刑前，残忍地揭穿了老鼠村的善意谎言，还故意不给压在戴尔头上的海绵浸水，致使戴尔在电击的极大痛苦中缓慢悲惨地 死去，整个人都被电流烤焦。身处牢房的约翰也感受到了戴尔巨大的痛苦，他的异能使他如同身临其境，感同身受，而金格先生也通过约翰感受到了这些，逃离了监狱。
哈尔的妻子梅琳达境况日下，保罗想到了约翰的异能，决定冒险把约翰运出监狱，带他到哈尔家去救治梅琳达。他的提议得到了其他几个狱警的一致同意。于是几人开始行动，先是用安眠药放倒了烦人的比利，再强制给佩西穿上束缚衣，扔进了禁闭室。之后几个人商量好一致的口径，而约翰也已未卜先知。
一切准备就绪，正要出发时，本应在昏睡的比利突然伸手抓住了约翰。约翰透过异能清楚地看清了比利的内心。原来比利坏事做足，犯下多起命案，他在一户人家帮工的时候，更是杀害了一对年幼的双胞胎姐妹。路过的约翰要施救时为时已晚，还被搜寻赶到的群众误以为是凶手，被抓起来判了死刑。约翰把自己所感知的这些，连同异能的一部分都传给了保罗，也使保罗看到了真相。
众人来到哈尔家，约翰不负众望，展现了他的第三次神迹，成功吸走了梅琳达脑部的肿瘤。梅琳达恢复了健康，变回了优雅温婉的女士，哈尔既震惊又喜悦。众人等待约翰将病毒吐出，这一次约翰却强忍着痛苦不吐出来。
硬撑着回到监狱后，约翰抓住了刚被从禁闭室放出来，仍旧死不悔改的佩西，将病毒送入了他的体内。病毒影响了佩西，佩西走到比利的牢房前，直接拔枪射杀了比利。事后佩西也精神失常，被送进了之前提及的精神病院，只不过不是工作，而是作为病人。
众人知道真相后，都想帮约翰洗脱罪名，但是毫无办法，监狱长哈尔也无能为力。保罗甚至想帮约翰越狱逃跑，但被约翰拒绝了。约翰也打开了保罗的心结，他说他已经受够这种每天感受众生疾苦的生活了，人间多难，世间多苦，他很累，是时候了结了。
众人心中无法释怀，想为约翰做点什么。约翰说他这辈子还没看过电影，于是众人陪着约翰在放映室里看了一部电影《礼帽》，也就是电影开头出现的那部老电影。约翰看着电影中的俊男靓女，赞叹着说他们真像是生活在天堂里的天使啊。殊不知，你才是上帝派往人间的天使啊。
约翰的刑期如期而来。在行刑现场，不明就里的围观群众对他充满了恨意。真是讽刺，这是一批虔诚的基督教徒，却不问真相，只凭目睹和肤色就联手绞杀了上帝派往人间的天使。只有几个知情的狱警于心不忍，强忍着泪水和他道别。在一片绚丽的火花中，约翰去了天堂，再也不用负担众生疾苦。
说完这段往事，现年已经108岁的保罗，带着艾丽来到了附近山上的一间草屋里。在这里，艾丽看到了老鼠金格先生，它接收了约翰的一部分异能，活了很久，年迈地已经玩不动滚筒。而同样接受了一部分异能的保罗也将活得更久。这是幸运，也是不幸。他看着身边的爱人和朋友一个个地离开，无时无刻不在期待着死神的到来，无所畏惧。