По рекомендации полиции Зубатов поступил работать телеграфистом на «Московскую центральную телеграфную станцию». И стал вольнослушателем Московского университета. Талантливо разыгрывая роль революционера, он раскрыл нелегальный студенческий кружок, члены которого были арестованы и осуждены. За ними последовали другие выявленные им подпольщики (около двухсот человек). О них Зубатов (в докладной записке московскому обер-полицеймейстеру Евгению Корниловичу Юрковскому) написал:

«… не я их толкнул на революционный путь, но, благодаря надетой на себя личине революционера, я их обнаружил».

Прошёл год успешной секретной работы Зубатова. И настал день, когда революционеры разоблачили его как «провокатора», а в одном нелегальном рабочем кружке даже приговорили к смертной казни.

Ценя удивительные способности раскрытого агента, начальство предложило ему официально перейти на розыскную работу. И с 1 января 1889 года он был зачислен в штат московской полиции с прикомандированием к Охранному отделению – стал чиновником для особых поручений.

Его карьера развивалась стремительно. В 1894 году Зубатов – уже помощник ротмистра Бердяева. А через два года, уличив своего шефа в растрате казённых средств, Сергей Васильевич (есть и такое свидетельство) написал на него докладную в Департамент полиции. И вскоре занял освободившееся начальственное место, став (вопреки существовавшим правилам – ведь он не был жандармским офицером) главой Московского охранного отделения.

Зубатов сразу приступил («по долгу службы царю и Отечеству и по велению совести гражданина») к решительному реформированию всей сыскной службы, внося в её повседневную практику строгую организацию и чёткий порядок.

Отныне во все нелегальные группы и кружки сомнительного с точки зрения властей толка засылались свои (специально для этого дела подготовленные) люди. В охранке их нарекли «информаторами», революционеры называли их «провокаторами». От них Охранное отделение оперативно узнавало о том, что происходило в среде подпольщиков, и имело достоверные сведения обо всех, кто занимался антиправительственной деятельностью.

Зубатов издал специальную «Инструкцию господам участковым приставам Московской городской полиции по производству обысков, арестов и выемок, о государственных преступлениях». И таких служебных бумаг появилось немало. В полиции принялись подробно регистрировать каждого задержанного, включая его фотографирование и скрупулёзное описание внешности и привычек.

Жандармскому офицеру Александру Ивановичу Спиридовичу довелось работать под началом Сергея Зубатова с 1900 года. Вот как он описал первую встречу с ним:

«… еду в Гнездиковский переулок являться в Охранное отделение.

Двухэтажное здание зеленоватого цвета окнами на переулок.

Вхожу в большой, нарядный не казённый кабинет. На стене – прелестный, тоже не казённый царский портрет. Посреди комнаты – среднего роста человек в очках, бесцветный, волосы назад, усы, борода, типичный интеллигент, это – знаменитый Зубатов.

Представляюсь, называя его "господин начальник". Он принимает мой рапорт стоя, по-военному, опустив руки и, дав договорить, здоровается и предлагает папиросу. Отказываюсь, говорю, что не курю. Удивляется.

– Может быть и не пьёте?

– И не пью.

Начальник смеётся и, обращаясь к Медникову, говорит: "Евстратий, и не пьёт!"».

Шел уже четвёртый год, как московскими жандармами руководил новый начальник, и Спиридович написал:

«Отделение уже вычистило к тому времени Москву и раскрыло несколько революционных организаций вне её…

Зубатое сумел поставить внутреннюю агентуру на редкую высоту. Осведомлённость отделения была изумительна. Его имя сделалось нарицательным и ненавистным в революционных кругах. Москву считали гнездом "провокаций". Заниматься в Москве революционной работой считалось безнадёжным делом».