В 1932 году Пол работал в тюремном блоке «Е» (блоке для смертников) старшим надзирателем. Блок прозвали «Зелёная миля» по аналогии с «Последней милей», которую проходит приговорённый в последний раз. А зелёная — потому что полы в блоке были застелены светло-зелёным линолеумом.
Вместе с Полом работают надзиратели Гарри Тервиллигер, Брут Хоуэлл, Дин Стэнтон, Перси Уэтмор. Все они хорошие, добрые люди как и сам Пол. Кроме Перси, который злобный, трусливый и жестокий человек. Перси всё время издевается над заключёнными и уже всем изрядно надоел, но он чувствует себя в полной безопасности: у него большие связи - он племянник жены губернатора штата. Особенно подвергается нападкам Перси заключённый Эдуард Делакруа.
Сам Пол вместе со своей командой проводил казни. Одна из таких подробно описывается в первых главах романа, когда команда надзирателей Мили казнила Вождя — индейца по имени Арлен Биттербак, старейшину из племени Чероки, приговорённого к смерти за убийство в пьяной драке. Арлен прошёл по Зелёной миле и сел на «Старую замыкалку» (англ. Old Sparky) — так в тюрьме называли электрический стул.
В блоке Е находился кроме Биттербака Эдуард Делакруа, француз, приговорённый к смерти за то, что изнасиловал и убил девушку, и пытался сжечь её, чтобы скрыть следы преступления. Огонь перекинулся на здание общежития, где заживо сгорели ещё шесть человек, в том числе двое детей.
И вот, в октябре 1932 года (как раз, когда Пол страдал воспалением мочевого пузыря) в блок попадает странный заключённый: гигантский, абсолютно лысый негр, который производит впечатление умственно отсталого человека. В сопроводительных документах Пол узнаёт, что Джон Коффи (так звали его нового подопечного) признан виновным в изнасиловании и убийстве двух девочек-близняшек Кэти и Коры Деттериков.
В это же время происходит еще одно событие — на Миле появляется маленький мышонок, необычайно умный зверек. Надзиратели прозвали его Пароход Уилли (так раньше называли Микки Мауса). Мышонок убегает и появляется неожиданно, всякий раз демонстрируя недюжинный ум и ловкость, несвойственную мышам. Перси пытается убить его, бросает в него дубинкой, но мышонок успевает ускользнуть.
Вскоре Делакруа удается приручить мышонка. Он называет его Мистер Джинглс. Мышонок катает ктушку из-под ниток и грызет мятные леденцы. Делакруа разрешают оставить мышонка в камере, и находят для него коробку из-под сигар.
Пол — близкий друг начальника тюрьмы Мурса. В семье Мурса трагедия - Его жена Мелинда тяжело больна, у нее опухоль мозга, размером с лимон и расположена глубоко, так что вырезать ее невозможно. Он тяжело переживает болезнь жены, и делится с Полом своими переживаниями.
Вскоре в блок «Е» прибывает Уильям Уэртон — белый молодой человек отвратительного поведения, по кличке "Дитя Билли" который причинял всяческие неприятности на территории штата, пока его не арестовали за грабёж и убийство четырех человек, включая беременную женщину. Во время прибытия «Дикий Билл», как его прозвали на Миле, устраивает заварушку, чуть не задушив цепью от наручников одного из надзирателей — Дина Стэнтона.
После этого Джон Коффи чудесным образом излечивает Пола от недуга. После этого Пол начинает сомневаться в его виновности, ведь Господь не мог дать такой дар убийце и насильнику. Пол едет к Берту Хаммерсмиту — адвокату Джона Коффи. Тот говорит Полу что не сомневается в его виновности.
Однажды Дикий Билл хватает Перси через решетку и издевается над ним, его освобождают другие надзиратели. Во время этого от испуга Перси писает в штаны. Делакруа, которого Перси один раз избил, посмеялся над ним. И после этого унизительного инцидента ненависть Перси к Делакруа, переходит границы. Мстя Делакруа, он давит мышонка сапогом. Однако, Джон Коффи возвращает Мистера Джинглса к жизни. Пол и другие надзиратели угрожают Перси, и говорят ему, что разрешат руководить казнью Делакруа, но после этого Перси должен перевестись в Брайр-Ридж, психиатрическую лечебницу.
Перси срывает казнь Делакруа, не намочив губку (один из контактов в электрическом стуле) в соляном растворе, из-за чего Делакруа буквально сгорает заживо. Перси пишет заявление о переводе. Пол жалеет Мелинду Мурс, и хочет ей помочь. Он подговаривает Брута, Дина и Гарри тайно вывезти Коффи из тюрьмы и привезти к Мурсам, чтоб он помог больной женщине. Они заталкивают Перси в карцер для буйных, и пичкают Дикого Билла снотворным, дав ему колу. После чего, с величайшими предосторожностями, Джона Коффи нелегально привозят к дому начальника тюрьмы Мурса. Пол решился на это только потому, что понял, что Джон невиновен. Джон высасывает опухоль и чудесным образом сохраняет в себе её злую энергию. И, когда его, едва живого, привозят назад, Перси выпускают из карцера, Джон ловит Перси и вдыхает в него болезнь. Перси, сойдя с ума, выхватывает револьвер и всаживает шесть пуль в «Дикого Билла». Именно Билл убил тех девочек, и его настигает заслуженная кара. Сам Перси так никогда и не приходит в себя, и много лет остается в кататонии, в психиатрической больнице Брайр-Ридж.
Пол спрашивает Джона, не хочет ли он, чтобы Пол его выпустил. Но Джон говорит, что устал от людской злобы и боли, которой в мире слишком много, и которую он чувствует вместе с теми, кто её испытывает. И что Джон сам хочет уйти. И Полу, скрепя сердце, приходится вести Джона по Зелёной миле. Но перед этим Джон передает Полу свой дар — а вместе с ним и долгую жизнь.
Пол рассказывает всё это своей подруге Элейн в доме престарелых и показывает ей все ещё живого мышонка. Джон Коффи «заразил» их обоих жизнью, когда лечил. И если мышонок прожил так долго, то сколько же предстоит прожить ему? Последние слова Пола: "Мы все обречены на смерть, все без исключения, я это знаю, но, о Господи, иногда зеленая миля так длинна".
