Становление еврейской религиозной жизни в столице началось в начале XIX в. с образования тайных миньянов, существовавших в основном в богатых домах. Первые официально действовавшие молельни возникали с разрешения военного командования для евреев, служивших в сухопутных войсках, на флоте и в полиции. Некоторые молельни посещали и гражданские лица. Первой по времени была молельня для нижних чинов, находившаяся в здании 2-го военного госпиталя (потом ВМА). Она возникла в 1833 г. и помещалась в казарме женатых служителей, занимая одну комнату. Другая, существовавшая с 1848 г., была в здании 1-го Николаевского военного госпиталя (Суворовский пр., 63). В 1866 г. помещения этих молелен потребовались начальству «для других целей». Тогда молельня 2-го госпиталя была переведена в Московские казармы (наб. р. Фонтанки, 90). Позже евреи наняли для нее квартиру в частном здании (Б. Сампсониевский пр., 18). Так появилась молельня, которая потом называлась Выборгской. Для молельни 1-го госпиталя было нанято помещение на углу Суворовского пр. и Заячьего пер. С 1872 г. она находилась в Ковенском пер., 28, и называлась Песковской. Была создана молельня в Крюковских казармах Морского ведомства. Однако ее закрыли, когда евреям запретили служить на флоте. Затем, она находилась в других помещениях, в частности на ул. Декабристов 28. Была открыта молельня в Михайловском замке для военно-рабочей команды Инженерного управления. Но потом «из-за неудобства помещения» была переведена в частный дом на наб. р. Фонтанки, 66, затем в «бывшие казармы Московского полка». В 1867 г. молельни оттуда были перемещены в Аракчеевские казармы, находившиеся в районе Смольного монастыря (Шпалерная ул.). Но они располагались далеко от мест проживания многих евреев – нижних чинов. Поэтому были наняты комнаты для молений вблизи Обуховского моста (Московский пр., 13). Так возникла молельня, которая стала называться Обуховской. Примерно в 1855 г. была образованна молельня в казармах для солдат 1-й роты МПС, которая после ее расформирования в 1868 г. была переведена в другое помещение (В.О., 3-я линия, 56) и позднее называлась Василеостровской.

Религиозные руководители молелен для нижних чинов избирались ими из своей среды, а потом утверждались начальством. В 1849 г. исполнение религиозных обрядов для евреев, состоявших на службе в командах городской полиции, МВД возложило на избранного ими рядового И. Малого – первого известного религиозного руководителя евреев в столице. Он в 1852 г. был уволен по болезни. И с этого времени «наблюдателем при совершении молитв евреями, служившими в рабочих и иных экипажах», по высочайшему повелению был определен А. Нахимович. В помощь ему назначили рядового пешей команды полиции И.Л. Иофа, который в 1857 г. фактически стал раввином. Пока в молельнях молились служившие нижние чины, начальство предоставляло для них помещения или оплачивало их наем. А когда в них стали молиться преимущественно отставники, то делать это они должны были уже за свой счет. Отметим, что фактически еврейских молелен в столице тогда было больше, чем указано. Кроме тайных, были молельни и полулегальные. К ним можно отнести те, которые появлялись с разрешения военного начальства для своих солдат– евреев без согласования с МВД, что, в ряде случаев, потом приводило к возникновению конфликтов.

После вступления на престол в 1855 г. Александра II некоторым категориям евреев было предоставлено право постоянного жительства в столице: купцам 1-ой гильдии, лицам с высшим образованием, ремесленникам многих специальностей, солдатам, отслужившим полный срок в армии. Это способствовало росту численности живших здесь евреев: в 1864 г. – 2600, в 1895 г. – 18 500. Вместе с тем изменилась структура еврейского населения с увеличением зажиточной и образованной части, при уменьшении доли евреев-солдат, как служивших, так и вышедших в отставку. Приезжавшие в столицу евреи-купцы, а также и образованные евреи, многие из которых фактически были постоянными жителями, не стремились посещать солдатские молельни, так как они не соответствовали их представлениям о еврейских религиозных учреждениях. Поэтому, имея разрешение властей, они участвовали в богослужениях, проводимых непосредственно в квартире р. Иофа. В 1860 г. ими было подано прошение губернатору «о дозволении иметь собственную просторную молельню с раввином». Он отнесся к просьбе положительно, подтвердил это Еврейский комитет МВД. И государь 28 октября 1860 г. начертал в журнале: «Исполнить».