В 1902 году в столице было основано Общество взаимного вспомоществования рабочих механического производства, а Гапон был привлечен к нему как популярный в рабочей среде священник. Ознакомившись с деятельностью зубатовских организаций, он написал доклад, в котором предлагал основать новое рабочее общество по образцу независимых английских профсоюзов. Главная идея Гапона состояла в том, что зубатовские общества слишком тесно связаны с полицией, что компрометирует их в глазах рабочих и парализует рабочую самодеятельность.

В августе 1903 года Зубатов из-за личной ссоры с министром внутренних дел Вячеславом Плеве был отправлен в отставку и выслан из Петербурга. После этого петербургская зубатовская организация осталась в подвешенном состоянии, и Гапон оказался как бы естественным преемником Зубатова. Осенью того же года Гапон взялся за воссоздание организации в соответствии со своими идеями. С этой целью им был написан новый устав общества, резко ограничивающий вмешательство полиции в его внутренние дела. Фактически Гапон стал единственным посредником между рабочими и администрацией.

Идеи священника, как ни странно, получили одобрение полиции, и 15 февраля 1904 года новый устав общества был утвержден заместителем министра МВД Петром Дурново. Гапона также поддерживали лично директор департамента полиции Петербурга Лопухин и мэр Иван Фуллон. Последний считал, что Собрание является «твердым оплотом против проникновения в рабочую среду превратных социалистических учений». Гапон взял с градоначальника честное слово, что в его Собрании не будут производиться аресты, а про полицейских чинов, пытавшихся проникнуть в стены Собрания, он прямо говорил рабочим: «Гоните их вон!»

«Поставленный руководителем политической полиции на такое ответственное место Гапон почти с самого начала был предоставлен самому себе, без опытного руководителя и контролера, – писал будущий начальник петербургского охранного отделения Александр Герасимов. – О контроле полиции за деятельностью общества давно уже не было и речи. Это было обычное общество с настоящими рабочими во главе. В их среде и Гапон совсем забыл о тех мыслях, которыми руководствовался вначале». Фактически священник создавал свою революционную партию прямо под носом у царя! Причем совершенно легально. При этом по совместительству Гапон с 8 января 1904 года являлся настоятелем церкви Святого Благоверного князя Михаила Черниговского при Санкт-Петербургской городской пересыльной тюрьме.

Формально Собрание занималось организацией взаимной помощи и просветительством, однако на деле это было некое тайное политическое общество. Из числа наиболее преданных рабочих Гапон организовал Тайный комитет, который собирался на его квартире. Ближайшими соратниками попа-революционера были рабочие И.В. Васильев и Н.М. Варнашёв. На собраниях комитета читалась нелегальная литература, изучалась история революционного движения и обсуждались планы будущей борьбы рабочих за свои права. Замысел Гапона состоял в том, чтобы объединить широкие рабочие массы и поднять их на борьбу за свои человеческие права, за свои экономические и политические интересы.

При этом активный и целеустремленный Гапон вербовал все новых и новых сторонников. Осенью 1903 года ему удалось привлечь к работе в Собрании влиятельную группу рабочих с Васильевского острова, известную как «группа Карелина». Ведущую роль в ней играли супруги Алексей Карелин и Вера Карелина. Последним Гапон открыл свой план, состоявший в том, чтобы постепенно объединить рабочих всей страны. «Ежели мы устроим такие клубы, как в Петербурге, в Москве, Харькове, Киеве, Ростове-на-Дону, Иванове, то покроем постепенно такой сетью всю Россию