В июле 1922 года утверждается новое Положение о музее и его новое название – Государственный музей декоративного искусства «Оружейная палата». В музей входят Оружейная палата, соборы Кремля и Дом боярина XVII века, который являлся филиалом Оружейной палаты уже в середине XIX века.

Огромное значение в организации работы музея в этот период приобретает созданный в 1922 году Ученый совет. На его заседаниях решались как проблемы, определявшие основные направления деятельности музея, так и вопросы текущей работы.

Одним из самых драматических периодов в истории кремлевского музея стала работа Комиссии особо уполномоченного ЦИК СНК по учету и сосредоточению ценностей придворного ведомства в январе – сентябре 1922 года. Комиссия начала работу с просмотра того, что особенно интересовало Гохран – с коронных ценностей. По воспоминаниям Дмитрия Дмитриевича Иванова, назначенного на должность заведующего Оружейной палатой в апреле 1922 года, после скоропостижной смерти М.С. Сергеева, сотрудники музея испытывали «в самой тяжелой форме удручающий гнет крайне резких притязаний Гохрана». Их мало интересовала историческая или художественная значимость того или иного экспоната, они видели только его материальную стоимость «безоглядно требуя обезличения и скорейшего использования драгоценных металлов и камней». М.С. Сергеев и Д.Д. Иванов, представлявшие музей, всеми доступными им средствами добивались сохранения музейных ценностей. В результате этой борьбы сотрудникам музея удалось отстоять многое из того, что непременно погибло бы, будь их позиция менее принципиальной. Борьба за возвращение изъятых экспонатов продолжалась и после завершения работы комиссии. С августа 1923 по июнь 1924 года в Оружейную палату было возвращено 39 758 предметов (в том числе 22 243 монеты нумизматической коллекции).

Важным этапом в развитии музея стало включение в его состав всех церквей и монастырей Московского Кремля. В этот период начинается подготовка к музейному показу кремлевских храмов. Стремясь сохранить их историко-художественные комплексы, в концепции экспозиции сотрудники музея подчеркивают бытовое и декоративное значение памятников, избегая напоминать об их культовом назначении. Огромный ущерб соборам был нанесен в 1922 году изъятием ценностей в Помгол.

В июле 1924 года создается Объединенный музей декоративного искусства, в который кроме Оружейной палаты, Памятников Кремля и Дома боярина XVII века, в качестве филиалов входят созданные в начале 20-х годов Музей мебели, Музей фарфора и Музей игрушек. Объединенный музей имеет общий Ученый совет, финансирование и делопроизводство, кроме Музея мебели, который сохранил административно-хозяйственную самостоятельность. Организация совместной работы филиалов была крайне затруднительна, каждый из музеев имел свою специфику и, хотя основные проблемы работы музеев рассматривались и решения по ним утверждались на Ученом совете, каждый из них сохранял свое руководство. Так в Оружейной палате вместо заведующего в середине 1925 года вводится должность директора.

Продолжавшаяся политика антикварных распродаж, вульгаризация научно-экспозиционной работы, сокращение музейных площадей в Кремле и, наконец, варварское разрушение кремлевских монастырей потребовали колоссального напряжения сил от сотрудников музея для сохранения ценностей. Несмотря на это продолжается активная научная работа и в 1925 году издается первый сборник научных трудов сотрудников музея. К 1929 г. практически готов так и не вышедший в свет второй сборник.

Искусственно созданное объединение оказалось не долговечным. В 1926 году был ликвидирован Музей мебели. Его коллекции передавались в разные учреждения. В апреле 1928 года Музей фарфора и Музей игрушки получают финансовую самостоятельность и практически выходят из объединения, однако официально Объединенный музей был реорганизован только в июле 1929 года.