Впервые роман издан в швейцарском издательстве «L'Âge d’Homme» 26 августа 1976 года и был переведён на более чем двадцать языков[1]. Роман, совмещая философские и социологические рассуждения, фантастические элементы, сатиру и фарс, описывает общество «реального социализма».
В СССР книга распространялась нелегально. Реакцией на публикацию книги стало увольнение Зиновьева из Института философии АН СССР, исключение из КПСС, лишение всех званий и наград (в том числе и военных). В 1978 году после публикации следующей своей книги «Светлое будущее» Зиновьев вместе с семьёй был выслан из страны и лишён советского гражданства.
В СССР «Зияющие высоты» впервые легально были изданы во время «перестройки» в 1991 году.
С юности интересовавшийся творчеством Александр Зиновьев участвовал в составлении стенгазет. Во время службы в армии в 1942—1945 годах он писал стихи, в том числе «Балладу о неизвестном курсанте», впоследствии восстановленную для «Зияющих высот» (поздняя версия вошла в российское издание).
В 1945 году Зиновьев придумал словосочетание «зияющие высоты», ставшее впоследствии заглавием романа. После армейской службы, в 1946 году Зиновьев показал черновик своей «Повести о предательстве» Константину Симонову, который посоветовал уничтожить рукопись из соображений безопасности. Зиновьев последовал совету и оставил литературную деятельность почти на тридцать лет.
Толчком к возвращению к литературному творчеству стали события «пражской весны». Зиновьев описывал своё состояние как «поворот к бунту». Предпосылками к написанию романа стали опыт публицистических статей, публичные лекции и эссе об Эрнсте Неизвестном. Зиновьев решил изложить свои размышления о коммунистическом обществе в форме книги. Размышляя над стилем повествования, он решил писать «так как пишется», фрагментарно совмещая научный стиль, прозу и поэзию. Основная часть книги была написана летом 1974 года на даче в Переделкино. Опасения преследования со стороны органов госбезопасности, неуверенность в том, что процесс написания книги не будет прерван, во многом определили структуру произведения, состоящую из множества отрывков, которые можно было бы воспринимать как самостоятельные произведения.
В конце 1974 года Зиновьев решил, что материала для книги достаточно, и в начале 1975 года законченный вариант рукописи был переправлен во Францию, после чего черновики книги Зиновьев уничтожил. По словам Зиновьева, после переправки выяснилось, что две части книги — «Сказка о Московии» и «Исповедь отщепенца» пропали. Восстанавливая утраченные фрагменты, Зиновьев напишет две книги «Светлое будущее» и «Записки ночного сторожа».
Рукопись отклоняют русскоязычные французские издательства. Напечатать книгу согласился Владимир Дмитриевич в издательстве «L’Age dʼHomme». Первый тираж книги печатается 7 августа в Бельгии, в городе Лёвен, в типографии Rosseels Printing.
В СССР книга издана впервые «Независимым издательством „ПИК“» в двух томах в 1991 году. Для советского издания Зиновьев изменил структуру книги: часть текста об Эрнсте Неизвестном была изъята, вместо трёх частей роман делился на пять. Также книга включила расширенное «Предисловие».