При князе Данииле небольшая окраинная сторожевая крепость Москва превратилась в столицу удельного княжества. Город, однако, никак не соответствовал своему новому положению. Иван Калита существенно изменил Кремль: на бровке холма над Москвой-рекой был построен новый деревянный княжеский замок, и, таким образом, в это время – в середине XIV в. – определилась конфигурация застройки парадной части Кремля. В 1339 г. возвели новую крепость «в едином дубу», то есть только из дубовых бревен. Удивительно, что такое немалое строительство заняло очень короткое время – по Воскресенской летописи, 25 ноября заложили, «да срублен быть тое же зимы, в великое говенье»: тогда Великий пост начинался 8 февраля 1340 г. (по старому стилю) и, таким образом, возведение крепости продолжалось около трех-четырех зимних месяцев.
По площади Кремль Калиты занимал примерно две трети современного. Вероятно, новые укрепления представляли собой две параллельных деревянных стены, связанные поперечными срубами, между которыми плотно набивалась земля и камни, а снаружи стены обмазывались глиной. По верху стены, между круглыми и четырехугольными башнями (их число и размещение неизвестны), шел навес. Длина стен составляла 780 саженей, то есть 1670 м. Возведение крепостных стен было итогом жизни московского князя Ивана Даниловича, умершего в 1340 г.
Эти стены защитили Кремль, где гордо высились новые каменные соборы и церкви, построенные князем со сказочной быстротой. Так, в 1327 г. построили Успенский собор, главный московский храм и место захоронения митрополитов и патриархов, в 1329 г. – церковь Иоанна Лествичника «иже под колоколы», в 1330 г. – Спасскую церковь у княжеского двора, в 1333 г. – собор Михаила Архангела, княжескую усыпальницу, где похоронили и самого храмоздателя. Можно предположить, что некоторые церкви строились на месте стоявших там и ранее деревянных храмов. Хотя все эти храмы были небольшими, но такое интенсивное строительство свидетельствовало о немалых богатстве и амбициях московского князя. Конечно, Москва не могла еще сравниться с великолепным Владимиром, но все-таки стала большим и богатым городом.
Возведение каменных храмов при Иване Калите обуславливалось и тем, что он понимал важность поддержки его русской церковью в лице митрополита Петра. Именно Петр заложил московский Успенский собор, где и был похоронен, а после кончины его объявили святым – первым в ряду русских митрополитов – и ему приписали пророчество о будущем Москвы. Он якобы обратился к князю Ивану: «Если послушаешь меня, сын мой, то и сам прославишься более иных князей с родом твоим, и град твой будет славен между всеми городами русскими, и святители поживут в нем, и кости мои здесь положены будут». Преемник Петра митрополит Феогност, который «был самым усердным помощником князей московских в достижении ими своих стремлений», уже совсем перенес кафедру из Владимира в Москву.
Через четыре года после постройки дубовой крепости, в 1343 г., при сыне Ивана Калиты князе Симеоне Гордом сгорело 28 церквей, а в 1354 г. сгорел и сам Кремль с 13 церквями в нем – это говорит о том, как вырос город. Стены крепости простояли недолго – через 25 лет после смерти Ивана Калиты, в 1365 г., в Москве случился большой пожар, названный Всесвятским, так как он начался у церкви Всех Святых – «погоре посад весь, и Кремль, и Заречье, бысть бо тогда засуха велика, еще же и буря велика к тому въста, и меташа за 10 дворов головни и берня с огне, и не бе лзе гасити, в едином бо месте гасяху, а в десяти загорашася…», и кремлевские стены разрушались.