Она началась у него со службы конторщиком на лесном складе в Гомеле. В этом городе зрела революционная жизнь, где наиболее активными казались социалисты-революционеры (эсеры). Сослуживцы по складу, что состояли в эсерах, и убедили Янкеля вступить в эту партию. Было ему тогда уже девятнадцать. И следы его партийной деятельности находятся в полицейских протоколах: «18 апреля 1915 года, в г. Гомеле во рву состоялась сходка представителей революционных партий, всего до 50 человек; ораторами на таковой выступали чечерский, Рогачевского уезда мещанин Янкель Шевелев-Шмаев Агранов, носящий в партии социалистов-революционеров кличку Михаил»… При обыске у него изъяли литературу: сборник статей «Интеллигенция в России», книги Иванова-Козумникова «Об интеллигенции. Что такое махаевщина. Кающиеся разночинцы», Токвилля «Старый порядок и революция», Леонида Андреева «Царь голод», Спенсера «Справедливость».

Закончилось следствие, и Агранова выслали в Енисейскую губернию. Здесь, на поселении, в отличие от толстовского революционера, повесившегося после встречи с большевиками, которые популярно ему объяснили, что сила революции в рабочем классе, а не в подвигах отдельных мучеников за народ, – Агранов вступил в большевистскую партию. Там, в ссылке, он сошелся с некоторыми видными потом большевистскими лидерами. Много читал, спорил. Оппоненты были известные интеллектуалы, и ссыльные «университеты» порой стоили государственного.

Предположительно в марте 1917 года он вместе со Сталиным приезжает в Петроград. Больше месяца длилось их путешествие от енисейских берегов. Скорее всего, Сталин и другие большевики, уже знавшие Агранова по ссылке, рекомендовали его после Октября в секретариат Ленина. А с 1919 года подпись Агранова как секретаря Совета Народных Комиссаров появляется вместе с ленинской на документах советского правительства. Должность техническая – ведение протоколов попеременно с другими секретарями, но тем не менее ответственная и близкая к высшему руководству страны. Он многое видит и многое знает.

А 20 октября 1919 года малый Совнарком на своем заседании рассмотрел «заявление члена Малого СНК Я. Агранова о разрешении ему совмещать работу в Малом Совнаркоме и в Особом отделе ВЧК». Протокол № 346 с разрешающей формулировкой подписал Ленин. Так Агранов стал особоуполномоченным ВЧК по важным делам. Людей, преданных советской власти и в то же время дельных, тогда очень не хватало. Агранов же был из преданных и дельных. И в ВЧК он занимался делами, принципиальными для власти: делами «Национального центра», «Тактического центра». И вот теперь дело «Петроградской боевой организации». Его положение и секретаря Совнаркома, и уполномоченного ЧК заставляло подходить к расследуемым делам не столько полицейски, сколько политически.

А ведь именно по-полицейски начали расследовать деятельность организации Таганцева следователи Петроградской ЧК Губин и Попов. В документе, составленном ими, говорилось, что определенное название организации «следствием не установлено, и каждый член организации называет ее по-своему». Далее: «Не имея определенного названия, организация не имела определенной, строго продуманной программы, как не были детально выработаны и методы борьбы, не изысканы средства, не составлена схема… Наличный состав организации имел в себе лишь самого Таганцева, несколько курьеров и сочувствующих… Террор, как таковой, не входил в их задачи. …Частные случаи связи нельзя обобщать и говорить о существовании филиальных отделений организации… Таганцев – кабинетный ученый, мыслил свою организацию теоретически»