Действие романа охватывает период Сталинградской битвы, с сентября 1942 по февраль 1943 года. Сталинградская битва находится в центре сюжета романа, в котором множество героев, чьи судьбы лишь частично связаны между собой. Связующим стержнем романа является семья Шапошниковых, судьбы их родственников и знакомых.
Александра Владимировна Шапошникова до революции окончила по естественному отделению Высшие женские курсы. После смерти мужа она одно время была учительницей, затем работала химиком в бактериологическом институте, а затем заведовала лабораторией по охране труда.
У Александры Владимировны три дочери (Людмила, Маруся и Женя) и сын Дмитрий (Митя).
Сын Людмилы от первого мужа — Толя — погиб на фронте в 1942 году. Первый муж бросил её с грудным ребёнком, запретив дать Толе фамилию Абарчук. Сам Абарчук был арестован во время террора 1937-38 годов и позже убит в лагере одним из уголовников. Второй муж Людмилы — Виктор Штрум, еврей — физик-теоретик, доктор наук и член-корреспондент АН СССР, совершил крупное открытие, но подвергается в институте антисемитским гонениям. Дочь Людмилы и Виктора — Надя — живёт с родителями. Мать Виктора погибает в Бердичеве при массовом расстреле евреев (так же, как погибла мать самого Василия Гроссмана в его родном Бердичеве).
Маруся погибает во время боев за Сталинград и там остаются её муж и дочь Вера. Вера работает в госпитале, знакомится с раненым лётчиком Викторовым и они женятся.
Женя уходит от своего первого мужа Николая Крымова из-за его непробиваемой партийности в период раскулачивания. Женя влюбляется в офицера-танкиста Новикова. Впоследствии, когда Крымова арестовывают, она носит ему передачи на Лубянку.
Дмитрий Шапошников и его жена Ида арестованы во время террора 1937-38 годов. Их сын Серёжа почти всю свою жизнь живёт с бабушкой, потом воюет в Сталинграде.
Другой связующей сюжетной линией романа являются судьбы старого большевика Мостовского, военного врача Левинтон и водителя Семёнова, которые вместе попали в немецкий плен в начале Сталинградской битвы.
Семёнова отправляют в сборный лагерь военнопленных, а затем, умирающего от голода, везут в эшелоне на запад, но на одной из станций на Украине его пожалел и освободил немецкий комендант. Семёнов с трудом добрался до ближайшей деревни, где его спасла украинская крестьянка.
Мостовского отправляют в концентрационный лагерь, где высокопоставленный чин РСХА Лисс заводит с ним разговор о том, что у Мостовского нет оснований ненавидеть нацизм, поскольку Гитлер лишь учился у Сталина и «кто на нас смотрит с ужасом, тот и на вас смотрит с ужасом». Мостовской не может это принять, его страшат такие мысли, но он, также как Крымов, не может не думать о том, насколько реальность сталинского государства, становящегося все более и более националистическим, отличается от революционных идеалов, которым Мостовской и Крымов были верны с молодости. В конце романа Крымов, находящийся под следствием по доносу о знакомстве с Троцким, прекращает попытки примириться с перерождением советской системы и открыто обвиняет посадивших его в предательстве идей большевизма.
Левинтон как еврейку отправляют вместе с другими евреями в лагерь смерти, где она погибает в газовой камере.
Методично и безжалостно осуществляемый нацистами и их пособниками геноцид евреев, холокост, является одной из главных тем романа. В романе также неоднократно упоминаются сталинский террор 1937-38 годов, раскулачивание, массовый голод на Украине в 1933 г. Гроссман сопоставляет эти события и рассуждает об ответственности простого человека, вовлеченного тоталитарным государством в такие кампании. Гроссман утверждает, что у человека всегда есть выбор, даже если это выбор между соучастием в уничтожении других людей и собственной смертью. Именно такой выбор делает заключённый в концлагерь толстовец Иконников, отказавшийся работать на постройке газовой камеры.
Другой основной темой романа является противостояние природной доброты человека и внушаемой ему государством ненависти к врагам. Гроссман описывает, как советский разведчик Климов и немецкий солдат, обнаружив, что они укрылись от артобстрела в одной снарядной воронке, не стали убивать друг друга, как немецкий комендант, пожалев, освободил Семёнова, как немцы, которые во время своего победного наступления относились к русским как к «унтерменшам», попав в окружение в развалинах разрушенного ими Сталинграда, голодая и замерзая, начинают видеть в таких же голодающих и замерзающих жителях города людей, подобных себе, как жительница освобождённого Сталинграда, наблюдающая за тем, как немецкие пленные достают тела из подвала бывшего здания гестапо и готовая растерзать пленных, неожиданно для себя самой суёт немецкому офицеру кусок хлеба.
