«Казаки» стали плодом десятилетней работы Толстого. В 1851 году как юнкер он отправился на Кавказ; ему пришлось прожить 5 месяцев в пятигорской избе, ожидая документы. Значительную часть времени Толстой проводил на охоте, в обществе казака Епишки, прототипа Ерошки из будущей повести. Затем он служил в артиллерийской батарее, расквартированной в расположенной на берегу Терека станице Старогладовской. Успех вышедшего в 1852 году первого произведения Льва Николаевича («Детство») сподвиг его на продолжение литературной деятельности. Летом 1853 года Толстой написал главу рукописи, озаглавленной им «Терской линией», о быте казаков. Повествование велось от лица прибывшего в станицу человека, и этот способ сохранялся до последней редакции «Казаков». В августе Толстой написал 3 главы кавказского романа «Беглец», лишь малые части которого вошли в финальной версии «Казаков». Далее писатель не возвращался к этой теме до 1856 года, когда возобновил работу над казачьей повестью (без упоминания об офицере). Офицер появился в апреле 1857 года, когда Толстой заново написал 3 главы «Беглеца». Именно там появились, хотя и скупо описанные, многие персонажи будущих «Казаков».
Весной 1858 года Лев Николаевич снова работал над кавказским романом, и к маю было написано, без особых художественных изысков, 5 глав. Хотя они закачиваются свиданием Лукашки (тогда ещё называемого Киркой) с Марьяной, уже тогда писатель остановился на развязке, напечатанной в «Казаках». Тогда же стиль повествования был переведён в письма главного героя, офицера Ржавского. Осенью Толстой существенно обработал и расширил те же 5 глав. Зимой Лев Николаевич продолжил проработку и углубление первой части кавказского романа. Во время поездки по Швейцарии 1860 года писатель создал главу из третьей части планируемого романа, где Ржавский стал Олениным. К февралю 1862 года, когда Толстой вернулся к роману, он уже продал права на его публикацию Михаилу Каткову. Написав ещё 3 главы третьей части, в которых Оленин уже 3 года прожил с Марьяной, Толстой решил отказаться от создания романа. Однако Катков не согласился принять обратно плату за роман, и Лев Николаевич решил свести готовые главы романа в повесть. Он посвятил этой цели лето и осень 1862 года, добавив также несколько новых ярких эпизодов.