В московские годы Евгений Дмитриевич, всегда отличавшийся огромной работоспособностью, много пишет, хотя не все из написанного успевает напечатать. Из того, что удалось издать, особо надо отметить три книги. Прежде всего, это первый том «Введения в языкознание для востоковедных вузов», фундаментального труда, совмещающего учебник, специально ориентированный на студентов-востоковедов, и изложение последовательной теоретической концепции. В первый том вошли теоретическое введение к предполагавшемуся двухтомнику и разделы, посвященные фонологии и ударению, богато проиллюстрированные материалом значительного числа языков. Затем это две грамматики конкретных языков: та самая «грамматика Плетнера и Поливанова», о которой мы узнали на первом курсе, и китайская грамматика совместно с А. И. Ивановым. Последняя фактически содержит под одной обложкой две книги: Иванов, китаист старой школы, написал учебную грамматику в духе XIX в., а Поливанов подошел к китайскому языку совершенно по-новому. В японской грамматике О. В. Плетнер, знакомый Поливанова со времен Практической восточной академии, наоборот, находился под его сильным влиянием, и обе части близки друг к другу, хотя в некоторых новаторских идеях соавтора и Плетнер не разобрался. Грамматика стала первой у нас, да и в Европе, научной, а не чисто практической грамматикой японского языка. Продолжал Поливанов и публикацию материалов, собранных в Японии.

С «формалистами» Поливанов сумел, как показывают мемуары П. С. Кузнецова, найти общий язык. Но все более влиятельным становилось «новое учение о языке» академика Н. Я. Марра. У Поливанова до 1929 г. не было с ним личных конфликтов, но он не мог принять это учение из-за недоказанности его положений, противоречий фактам и просто недостаточного профессионализма в области лингвистики академика и его адептов. В его институте марризм не принимали многие, но только революционер по биографии и по духу Поливанов решился вызвать академика на бой публично.

4 февраля 1929 г. в Коммунистической академии состоялся публичный диспут с докладом Поливанова против Марра, его обсуждение заняло еще два заседания. Сам Марр, правда, находился за границей и в диспуте не участвовал. Однако из Ленинграда приехала целая бригада его сотрудников во главе с будущим его преемником И. И. Мещаниновым. Из москвичей выступали герои двух других моих очерков Н. Ф. Яковлев и Р. О. Шор, ближайший сотрудник Яковлева Л. И. Жирков, а также русист старой школы Г. А. Ильинский. Председательствовал В. М. Фриче, в том же месяце ставший одним из первых академиков-коммунистов.

Доклад Поливанова был опубликован только в 1991 г. Марр подвергся в нем острой критике, прежде всего, за непрофессионализм. Поливанов говорил: «Когда человек говорит: бросьте вашу сравнительную грамматику индоевропейских языков, – я вам объясню все слова индоевропейских языков из четырех элементов, – это же все равно, что какой-нибудь человек пришел на собрание химиков и сказал: “Забудьте, что вода – H_>2O. Вода – это нечто другое, это смесь азота с аммонием, – поверьте мне на слово, и я из этого объясню вам весь мир”. Это то же самое. Мы можем потребовать объяснения, мы можем потребовать доказательства: докажи эти четыре элемента. Доказательств, однако, нет» (другие цитаты из доклада приведены в очерке «Громовержец»). Опроверг Поливанов и декларации Марра о его марксизме, показав несоответствие марризма марксизму.

Дальнейшая часть диспута превратилась в публичное избиение Поливанова. Только «старорежимный» Г. А. Ильинский, противник всего нового в науке о языке, поддержал «красного профессора» против Марра, что пошло во вред и Поливанову, и самому Ильинскому (через пять лет он будет арестован по одному делу с Н. Н. Дурново, а в 1937 г. расстрелян). Все остальные, включая Н. Ф. Яковлева, Л. И. Жиркова и Р. О. Шор, поддержали (иногда, как Яковлев, с некоторыми оговорками) Марра и осудили Поливанова. Многим участникам дискуссии, среди которых были и люди, далекие от лингвистики, не нравилось даже то, что Евгений Дмитриевич писал на доске множество примеров из мало кому известных языков, вдавался в частности. Но главный фактор отметил он сам в заключительном слове: «Имею дело здесь с верующими – это прежде всего. Было бы смешно мне ставить своей задачей переубедить верующих». Итог подвел В. М. Фриче: «Научная репутация Марра вышла из диспута незапятнанной».