Проведя три года в столице, в 1870 году семья отправилась в Одессу, куда А. М. Врубель был назначен на должность гарнизонного судьи. В Одессе Михаил стал учиться в Ришельевской гимназии. В тот период Михаил написал маслом с фотографии портрет младшего брата Саши (умершего в 1869 году) и портрет сестры, украшавший кабинет отца. Врубель учился легко и шёл в классе первым, преуспевая в литературе и языках, увлекался историей, любил читать сестре на каникулах римских классиков на языке оригинала со своим переводом. В то время его больше увлекал театр, чем живопись.

После окончания гимназии с золотой медалью ни сам Врубель, ни его родители не помышляли о карьере художника. Было решено отправить его в Петербургский университет, расходы на проживание и пропитание брал на себя Н. Х. Вессель, на квартире которого Михаилу предстояло жить.

В 1876 году Врубель остался на втором курсе ещё на один год, аргументируя это в письме отцу необходимостью упрочить познания и повысить оценки. В результате, проучившись на год больше положенного срока, М. Врубель не защитил заключительную конкурсную работу и окончил университет в звании действительного студента.

Отчасти сказывался и богемный образ жизни, который он вёл с попустительства дяди. Однако в студенческие годы он делал и иллюстрации к литературным произведениям ‒ классическим и современным. Глубоко занимался и философией. Из сохранившихся графических работ того периода чаще всего воспроизводится композиция «Свидание Анны Карениной с сыном».

Активное участие в театральной жизни (Врубель был знаком с М. Мусоргским, бывавшим в доме Весселя) требовало немалых расходов, поэтому Врубель регулярно зарабатывал репетиторством и гувернёрством. Благодаря этой работе в середине 1875 года он смог впервые посетить Европу, побывав вместе со своим воспитанником во Франции, Швейцарии и Германии.

Врубель сблизился со студентами Академии художеств ‒ учениками П. П. Чистякова. Он вновь стал посещать академические вечерние классы, куда свободно допускались любители, и оттачивать пластические навыки, а в 24-летнем возрасте: окончив университет и отбыв краткую воинскую повинность, Врубель поступил в Академию художеств. Позднее художник характеризовал годы в Академии благодаря Чистякову «как самые светлые в своей художественной жизни». Учениками П. П. Чистякова были очень разные художники: И. Е. Репин, В. И. Суриков, В. Д. Поленов, В. М. Васнецов и В. А. Серов. Все они ‒ так же, как и Врубель, ‒ признавали его единственным своим учителем, почитая до конца своих дней.

Одним из главных для Врубеля в Академии оказалось знакомство с Валентином Серовым. Невзирая на десятилетнюю разницу в возрасте, их связывало многое, в том числе на самом глубинном уровне. С 1882 года, перейдя в натурный класс, Михаил Александрович совмещал занятия у П. Чистякова с утренними акварельными штудиями в мастерской И. Репина.

Михаилу Врубелю так и не удалось официально закончить Академии, несмотря на сопутствовавший ему формальный успех: композиция «Обручение Марии с Иосифом» удостоилась весной 1883 года второй серебряной медали Академии. Осенью 1883 года профессор А. В. Прахов по рекомендации П. П. Чистякова пригласил Врубеля в Киев для работы над реставрацией Кирилловской церкви XII века. Предложение было лестным и сулило хороший заработок, художник согласился ехать после окончания учебного года.

Киевские работы Врубеля оказались важным этапом в его художественной биографии: он впервые смог завершить весьма монументальный замысел и при этом обратиться к первоосновам русского искусства. Он принялся за глубокое изучение древнерусской живописи и византийских фресок, которые были открыты под наслоением XVIII века. Врубелю предстояло воссоздать утраченные фрагменты, а также написать новые иконы и фрески в древней традиции. Он научился по одной характерной детали воссоздать целое.