В целом о работе харбинской резидентуры в 20-е годы по Японии можно судить по докладу Карина начальнику ИНО ОГПУ М. Трилиссеру, направленному в Центр в 1925 году:
«Резидентура ИНО ОГПУ в Северной Маньчжурии с центром в Харбине… ведет регулярную и систематическую работу по перлюстрации дипломатических и других секретных почт целого ряда японских учреждений. Японский Генеральный штаб, военные японские миссии в Китае, японские армии: в Квантунской области (Порт-Артур), Корее (Сеул), Китае (Тяньцзинь) и другие вошли в сферу действия нашей разведки».
В начале 20-х годов советско-китайские отношения начали активно развиваться на государственном уровне. 26 января 1923 года Сунь Ятсеном и советским представителем в Китае Адольфом Абрамовичем Иоффе было подписано первое советско-китайское соглашение, после чего для оказания помощи гоминьдановскому правительству в Гуанчжоу (Кантон) была направлена группа советских политических советников под началом Михаила Бородина (Грузенберга). Тогда же Москву посетила делегация Гоминьдана, которую возглавлял Чан Кайши. В результате 31 мая 1924 года в Пекине было подписано соглашение «Об общих принципах урегулирования вопросов между СССР и Китайской республикой», которое было первым равноправным международным соглашением Китая. Несколько позднее, 20 сентября 1924 года, в Мукдене был заключен договор с властями, осуществляющими фактический контроль в Северо-Восточном Китае, ставший частью пекинского соглашения. А уже в конце сентября, согласно достигнутым договорённостям, Советский Союз предоставил Китаю заем в 10 млн юаней и начал поставлять оружие для формирующейся Народно-революционной армии Китая. Более того, в октябре 1924 года в Гуанчжоу прибыли первые советские военные советники. Всего же в период с 1924 по 1927 год в Китае работало до 135 советских военных советников, которыми руководили такие известные военачальники, как П. А. Павлов, В. К. Блюхер, А. И. Черепанов и другие.
В 1925 году новым главным резидентом ИНО ОГПУ в Китае вместо отозванного в 1924 году Якова Давтяна был назначен Сергей Вележев. В Пекине он действовал под псевдонимом Ведерников.
Тогда же при пекинской резидентуре было образовано представительство КРО ОГПУ, которое возглавил Сергей Лихаренко. В этот период большое значение приобрела шанхайская резидентура. Возглавлял ее с 1922 года С. Л. Вильде, работавший под «крышей» советского консульства. Его заместителем в 1925–1927 годах был Наум Эйтингон. Сотрудники резидентуры оказывали большую помощь прибывавшим в Гуанчжоу советским военным советникам, а также добывали необходимую для Народно-революционной армии информацию. Интересно отметить, что в шанхайской резидентуре в 1926–1927 годах под прикрытием должности коменданта консульства работал Рудольф Абель, чьим именем в 1957 году воспользовался арестованный в США разведчик-нелегал Вильям Фишер.