Впервые город упомянут в «Повести временных лет» под 862 годом, когда его округу населяли угро-финские племена. Новгородские словене и смоленские кривичи стали проникать на территорию Ростово-Суздальской земли с севера и запада в IX веке. В самом начале XI века происходит христианизация края, усиливается влияние Киевской Руси.
В 1164 году в Ростове были обретены мощи святителя Леонтия Ростовского – на территории Северо-Восточной Руси это произошло впервые. Первый белокаменный храм строится здесь уже при Андрее Боголюбском.
Центральную часть города составили вечевая площадь, куда по звону колокола собирался народ, епископский двор, Иоанновский и Григорьевский монастыри, а позже и Успенский собор, Борисоглебская церковь. В XIII веке это городское ядро, расположившееся на берегу озера Неро, обносят деревянными укреплениями, рвом с водой.
Ростов издавна славился своими колоколами, и их отливали лучшие в те годы мастера-умельцы. В «Истории государства Российского» Н.М. Карамзин приводит факт из летописи, что в 1290 году в Устюг из Ростова Великого был отправлен колокол «Тюрик». И позже, в летописях XV века неоднократно встречаются записи о колоколах, «политых в Ростове». На главной колокольне Ивана Великого Московского Кремля звонит «Ростовский» колокол весом 3267 кг, отлитый в 1687 году. Он был отлит в Белогостицкий монастырь, находившийся близ Ростова (отсюда и название колокола). Автор колокола – московский плавильный и колокольный мастер Филипп Андреев, работавший на Пушечном дворе с 1664 по 1688 год.
Большая земляная крепость «о девяти углах», названная впоследствии Ростовским кремлем, строилась в первой трети XVII века. Главным сооружением стал большой комплекс Архиерейского дома, окруженный земляными валами с одиннадцатью башнями. Обширное пространство вокруг оставлено незастроенным. Создание столь могучего города-крепости связывают с деятельностью последователя патриарха Никона митрополита Ионы, сторонника идеи господства церковной власти над светской. Архитектурными доминантами города становятся расположенный в его геометрическом центре огромный Успенский собор (усыпальница ростовских князей, митрополитов) и к востоку от него звонница.
Современный Успенский собор был построен в 1502–1512 годах, но службы на этом месте велись намного раньше, с 991 года, в самом первом храме. А всего их было пять, и с ними связано много легенд. Один из настоятелей собора был отцом былинного русского витязя Алеши Поповича, геройски погибшего в битве с монголами на Калке. В 1314 году здесь был крещен отрок Варфоломей – Сергий Радонежский.
В летописях и документах XIV века часто упоминается Ростовский архиепископ Феодор, и не случайно. Племянник преподобного Сергия Радонежского Иоанн в двенадцать лет принял постриг с именем Феодор у своего дяди и впоследствии с его благословления основал в Москве Симонов монастырь, стал его игуменом и духовником великого князя Дмитрия Донского.
Прекрасно владея греческим языком, будучи образованным, эрудированным человеком и тонким дипломатом, святитель в 80-х годах XIV века выполнял самые ответственные поручения князя в византийской столице. После последнего посещения Царьграда патриарх Антоний возвел его в сан архиепископа Ростовского, и святитель Феодор стал вторым архиепископом на Руси (первым это высокое звание получил владыка Великого Новгорода). У себя на родине, в Ростове, он основал женский монастырь в честь Рождества Пресвятой Богородицы и написал для этой обители икону Богородицы. В 1394 году он был погребен в Успенском соборе Ростова.