По возвращении из Парижа Беленький работал в Двинске. Там 19 марта 1910 года он был арестован и, просидев более года, «был судим как бродяга и был выслан на вечное поселение на Ангару Енисейской губ. (Сибирь). Пробыв в ссылке 2 года и активно участвуя в организации О[бщест]ва ссыльнопоселенцев, я бежал и прибыл в Париж. Здесь я работал около 4‑х лет в качестве секретаря Парижской секции большевиков. Был секретарем Парижского Клуба с.-д. интернационалистов, ведя совместно с другими активными членами организации с первых дней войны 1914 г. беспощадную борьбу против всех видов социал-шовинизма, всецело поддерживая последовательную интернационалистскую линию ЦК РКП и Ц. О. („С.‑Д.“). Будучи секретарем Парижской Секции (большевиков), я вел систематическую переписку с К. З. О., с Вл. Ильичом, с Надеждой Константиновной Крупской, с Инессой Арманд, с тов. Зиновьевым и др.»149
Беленький вернулся в Россию в начале мая 1917 года и сразу приступил к работе в Московской окружной организации большевиков. «С 20 июля 1917 г. я был послан в Московский Комитет для работы на Красную Пресню в качестве ответственного организатора. Здесь я принял активное участие в подготовке Октябрьского переворота. От Краснопресненского района я был избран членом Московского Комитета, членом которого я состою по сей день»150. Ответственный секретарь Краснопресненского райкома партии с 1917 года, Гриша Беленький, как его называли ближайшие товарищи, влип весной 1925 года в крупный скандал со своими подчиненными, в который вмешался на правах первого секретаря Московского губернского комитета ВКП(б) Николай Александрович Угланов. Это взбесило Беленького и он подал в отставку. Бюро Московского комитета отставку приняло, но специально уточнило, что речь не идет о каких-либо идеологических разногласиях Беленького и партии, специально признало его революционные заслуги и решило предоставить ему двухмесячный оплачиваемый отпуск до увольнения