В семинарии постоянно возникали конфликты между преподавателями и учащимися из-за того, что многие книги, которые приносили семинаристы, считались запрещенными. Этих конфликтов не избежал и Иосиф Джугашвили, поскольку много читал, регулярно посещал городскую библиотеку. Начиная с 1896 года он получал за чтение книг то выговор, то наказание продолжительным карцером. С ноября 1896 года по март 1897 года Джугашвили, рапортовал помощник инспектора семинарии, «в чтении книг из «Дешевой библиотеки» замечается уже в тринадцатый раз».

Уже в то время Иосиф Джугашвили читал произведения Щедрина, Гоголя, Чехова, любил Толстого. Был знаком с творениями Теккерея, Гюго, Бальзака. Наряду с художественной литературой читал научные книги, например, «Сущность христианства» Фейербаха, «Историю цивилизации в Англии» Бокля, «Этику» Спинозы, «Основы химии» Менделеева. Познакомился с «Капиталом» Маркса. А под влиянием труда Дарвина «Происхождение человека и половой отбор» стал атеистом.

Упрямый по характеру Иосиф Джугашвили часто спорил с товарищами по семинарии о художественных произведениях, по общественным и научным проблемам. В дискуссиях отстаивал свою точку зрения. Возненавидел социальное неравенство: сверстники из богатых семей имели большие возможности для образования.

По настоянию двух своих знакомых, Саши Цулукидзе и Ладо Кецховели, Иосиф Джугашвили начинает систематически читать социалистическую марксистскую литературу. В 1897 году он становится членом тайного марксистского кружка, действовавшего в духовной семинарии. В 1898 году Джугашвили вступает в грузинскую социал-демократическую организацию «Месами-даси». Тогда же начинает руководить рабочим марксистским кружком в Главных тифлисских железнодорожных мастерских. Вспоминая рабочих железнодорожных мастерских, Сталин в 1926 году писал, что здесь «получил первые уроки практической работы. В сравнении с этими товарищами я был тогда молодым человеком. Может быть, я был тогда немного больше начитан, чем многие из этих товарищей, но как практический работник я был тогда, безусловно, начинающим. Здесь, в кругу этих товарищей, я получил тогда первое свое боевое революционное крещение… моими первыми учителями были тифлисские рабочие».

Весной 1899 года молодой Джугашвили все чаще и чаще вступал в конфликты с дирекцией семинарии. И после нескольких замечаний его исключили из семинарии.

За революционную пропаганду и организацию стачек рабочих нефтяной промышленности Кобу-Джугашвили в 1908 году арестовали и посадили в Баиловскую тюрьму (Баку). Политические арестованные выступили с протестом против невыносимых условий заключения. Их решили пропустить сквозь строй тридцати двух солдат, каждый из которых должен нанести арестованному удар шомполом. Коба шел не сгибаясь, с раскрытой книгой в руках.

В письме от 22 марта 1914 года к Л. И. Бессер «из заполярных краев» Яков Свердлов так описывает обстановку в Курейке: «Устроился я на новом месте значительно хуже. Одно то уже, что я живу не один в комнате. Нас двое. Со мною грузин Джугашвили, старый знакомый, с кот[орым] мы уже встречались в ссылке другой. Парень хороший, но слишком большой индивидуалист в обыденной жизни. Я же сторонник минимального порядка. На этой почве нервничаю иногда. Но это не так важно. Гораздо хуже то, что нет изоляции от хозяев. Комната примыкает к хозяйской и не имеет отдельного хода. У хозяев – ребята. Естественно, торчат часами у нас. Иногда мешают».

В родном селе отца Диди-Дило жила красавица Екатерина Сванидзе. Иосиф Джугашвили влюбился в нее, как говорится, без памяти. В июне 1906 года они поженились. Екатерина Георгиевна настояла, чтобы их брак был церковным. Венчал их одноклассник Джугашвили по семинарии. Мать полюбила добрую и работящую супругу сына, радовалась, что и он к ней относится с нежностью и заботливостью. В 1907 году у них родился сын Яков.