Родился в семье геодезиста. Окончив Первую Московскую гимназию, продолжил обучение сперва на историко-филологическом факультете Московского университета (1884-1886, два курса), затем в Берлинском университете (1886-1890), где, помимо филологии, много занимался историей под руководством Моммзена, а также философией. В 1896 Гиршфельд и Моммзен приняли его диссертацию, но устный экзамен на учёную степень Иванов не сдавал. На мировоззрение Иванова наибольшее влияние оказали Ницше, Владимир Соловьёв, славянофилы, немецкие романтики (Новалис, Фридрих Гёльдерлин).
Много путешествовал — начиная с 1891 объехал значительную часть Европы (жил некоторое время в Афинах, затем в Женеве), посетил…
Палестину, Египет. Жил преимущественно в Италии и России (окончательно переселился в Италию в 1924 году).
В 1894 познакомился с Лидией Зиновьевой-Аннибал, поэтессой и переводчицей, спустя пять лет ставшей женой Иванова. Тогда же близким другом семьи Иванова становится М. М. Замятнина; она оказывала большую помощь поэту вплоть до своей смерти в 1920.
Ранние сонеты Иванова, описывающие горную природу Ломбардии и Альп, созданы под сильным влиянием поэзии католического мистицизма. Первое выступление в печати Иванова-поэта относится к 1898 (большую помощь оказал тогда молодому поэту Владимир Соловьёв, с которым Иванов познакомился в 1896). В 1903—1904 Иванов знакомится с В. Я. Брюсовым, К. Д. Бальмонтом, Ю. К. Балтрушайтисом, Д. С. Мережковским и З. Н. Гиппиус, А. А. Блоком.
В 1905 поэт поселился в Петербурге; его квартира в доме на углу Таврической и Тверской (дом 1) улиц («башня»), в которой по средам собирался кружок младосимволистов, была одним из идейных центров русского символизма, «творческой лабораторией» поэтов; в литературных «средах» Иванов видел прообраз «соборных» общин. Иванов сотрудничал в журналах «Весы», «Золотое руно», «Труды и дни», «Аполлон», «Новый Путь», руководил издательством «Оры»; участвовал в деятельности Петербургского религиозно-философского общества, публиковался в альманахе «Северные цветы», преподавал (1910—11) историю древнегреческой литературы на Высших женских курсах. В 1906 сблизился с С. М. Городецким; эта дружба дала Иванову новые темы, и в 1907 году он выпустил сборник «Эрос» (Изд. «Оры», Санкт-Петербург).
Большим ударом для поэта стала скоропостижная смерть жены в 1907 году. После этого поэт глубоко ушёл в теософию и мистику. В 1910 женился на своей падчерице Вере Шварсалон, дочери Зиновьевой-Аннибал; от этого брака родился сын Дмитрий (1912—2003).
В 1907—1908 — после того, как Иванов поддержал теорию «мистического анархизма» Георгия Чулкова — произошёл окончательный разрыв поэта со старшими символистами (впрочем, дружбу с Брюсовым Иванов сохранял вплоть до смерти «зачинателя» русского символизма). По возвращении из длительного путешествия по Италии (1912—1913) Иванов сблизился с литературным критиком М. О. Гершензоном, философом С. Н. Булгаковым, композитором А. Н. Скрябиным.
Активную культурно-педагогическую деятельность Иванов продолжал и после Октябрьской революции; в 1921-24 жил в Баку, где был профессором университета. В 1921 защитил диссертацию о культе Диониса.
Последние десятилетия провёл в Италии, где занимался в основном переводами произведений античных и средневековых поэтов (Сапфо, Эсхила, Алкея, Петрарки и др.), лишь изредка публикуя новые произведения (цикл «Римские сонеты», 1924; поэма «Человек» (Из-во «Дом книги», Париж), 1939). Иванов жил в Италии уединённо, поддерживая общение лишь с некоторыми из русских эмигрантов (из старших — с Мережковскими, из младших — с И. Н. Голенищевым-Кутузовым).
В 1926 принял католичество. В 1926—1934 преподавал русский язык и литературу в колледже в Павии, в 1934-1943 в Восточном институте Ватикана. В 1948 по заказу Ватикана пишет вступление и примечания к Псалтири. Итогом литературного творчества Иванова стал сборник стихов «Свет вечерний», опубликованный посмертно в Оксфорде в 1962 году.
Иванов похоронен на протестантском кладбище в Риме, рядом с художником Карлом Брюлловым.
