Ссылка в Кайгородское, куда Дзержинского перевели из Нолинска, привела к тяжелому заболеванию: 15 февраля 1899 года уездная Слободская призывная медицинская комиссия заявила ему, что он обречен на скорую смерть в результате прогрессирующей трахомы. Но Железный Феликс не боялся смерти, он только сетовал на то, что ничего не успел сделать в жизни. «Как горько, невыносимо больно сознание: жил и ничего не сделал, ничего не принес с собой… Этого быть не может», – писал Дзержинский своей знакомой по Нолинску Маргарите Федоровне Николаевой. Именно в этот момент он решился на свой первый побег, чтобы успеть как можно больше поработать в оставшееся ему время. «Я постараюсь устроить свою короткую жизнь так, чтобы пожить ею наиболее интенсивно», – писал он в другом письме.

Но вскоре выяснилось, что заключение призывной медицинской комиссии оказалось сильно преувеличенным: врачи, предупрежденные властями, старались просто отстранить опасного бунтовщика от армии, где он мог бы развернуть опасную агитационную деятельность.

Дзержинский все же не отступил от своего плана совершить побег. С приходом весны он начал часто ходить на охоту, и постепенно полиция, неустанно следившая за передвижениями ссыльного, начала привыкать к его долгому отсутствию во время охоты. Сам же Феликс Эдмундович во время своих вылазок тщательно изучал предстоящий ему путь побега. Побег из Кайгородского совершить было нелегко, ведь в этом небольшом селении каждый был на виду. Но Дзержинский, заранее пустив слух, что очень соскучился по своим друзьям в Нолинске, чтобы сбить со следа полицию, не позднее 27 августа 1899 года незаметно ускользнул из села.

Розыск был объявлен лишь 30 октября, так как полиция долгое время пыталась отыскать беглеца по ложному следу. Дзержинский же на борту маленького челна добрался по верховьям быстрой реки Камы до железнодорожной станции Кулиги, затем пересел на поезд и прибыл в Вильно раньше того времени, когда туда пришел полицейский циркуляр о розыске этого «опасного преступника».

В автобиографии Дзержинского описан последний эпизод его благополучного бегства из ссылки, которая, впрочем, позволила молодому революционеру серьезно изучить марксизм: «Возвращаюсь в Вильно, – писал он, – застаю литовскую социал-демократию ведущей переговоры с ППС об объединении. Я был самым резким врагом национализма… Когда я приехал в Вильно, старые товарищи были уже в ссылке – руководила студенческая молодежь. Меня к рабочим не пустили, а поспешили сплавить за границу, для чего свели меня с контрабандистами, которые и повезли меня в европейской „балоголе“ по Вилкомирскому шоссе к границе. В этой „балаголе“ я познакомился с одним пареньком, и тот за десять рублей в одном из местечек достал мне паспорт. Доехал тогда до железнодорожной станции, взял билет и уехал в Варшаву…»

Вскоре Дзержинский был уже в Варшаве, где с удовольствием, после целого года унылой жизни в ссылке, вернулся к революционной деятельности. Каким образом удалось беглому ссыльному добраться до столицы Польского государства без средств и без достаточных связей? Дзержинский, вероятнее всего, мог рассчитывать только на собственную смекалку, смелость и страстное желание оказаться на свободе, среди товарищей.

Все в том же «Катехизисе» сказано: «Когда товарищ попадает в беду, решая вопрос, спасать его или нет, революционер должен соображаться не с какими-нибудь личными чувствами, но только с пользою революционного дела. Поэтому он должен взвесить пользу, приносимую товарищем, с одной стороны, а с другой – трату революционных сил, потребных на его избавление, и на которую сторону перетянет, так и должен решить». Исходя из этих положений, можно заключить, что молодому ссыльному революционеру, еще не прославившему себя значительными подвигами, нечего было и рассчитывать на помощь товарищей, оставалось только надеяться на удачу и свою решительность.