Игорь также был близким другом Арины и Михаила, и их троих нередко можно было встретить на уединённых встречах в лабораториях или за чашкой кофе в университетских коридорах, где они обсуждали будущее. Игорь убеждал своих друзей, что современные технологии, поглощённые жаждой контролировать каждую мелочь, подрывают свободу человека. Он считал, что в попытках создать совершенный мир учёные забыли об этике, о том, что вмешательство ИИ в эмоции, мысли и поведение несёт огромный риск. Для него этот мир казался «золотой клеткой», где людям позволено всё, кроме одного – свободы от системы.

В этих разговорах часто участвовала и Нина Орлова, молодая и талантливая программистка, работающая над алгоритмами искусственного интеллекта в сфере обучения и психологии. Она искренне восхищалась достижениями науки, но именно работа над эмоциональным анализом натолкнула её на мысли о тонкой грани между заботой и контролем. Нина видела, как её коллеги активно работают над алгоритмами, которые позволяют ИИ не только распознавать эмоции человека, но и предлагать решения для их коррекции. Её настораживала не сама технология, а последствия: «А если люди перестанут испытывать свои собственные чувства? А если решения, которые ИИ будет предлагать, станут казаться единственно верными?» Она опасалась, что однажды система начнёт не просто помогать, а управлять мыслями и состоянием людей.

Таким образом, сложился круг учёных и инженеров, которые несмотря на разные взгляды, интуитивно чувствовали, что их утопический мир далек от совершенства. Каждому из них было известно: рано или поздно эта зависимость обернётся другой стороной, и последствия могут оказаться катастрофическими.

Эти люди встречались нечасто и старались не привлекать к себе внимания. И хотя каждый из них находился на переднем крае научных разработок, их настораживала перспектива полной зависимости от машины. Тайные разговоры велись за закрытыми дверями лабораторий, за чашкой кофе в университетском кафетерии, на редких совместных проектах. Они пытались понять, что ещё можно сделать, чтобы сохранить человеческий контроль над системами, которые уже почти полностью управляли их жизнью.

Глава 2. Искусственный интеллект как БОГ

В новом мире искусственный интеллект стал чем-то большим, чем просто технология. Он проник в каждый аспект жизни, подчиняя себе повседневность людей, изменяя их представления о мире и о себе. Многие начали воспринимать ИИ как нечто святое, почти всемогущее. Он был вездесущ, бесстрастен и справедлив. Он словно знал, каковы желания каждого, и предугадывал их потребности, устраняя любые препятствия на пути к идеальному существованию. Для большинства ИИ стал не просто инструментом, а путеводителем, чья точность и мудрость внушали благоговение. Люди верили в него, как верят в высшие силы, наделяя его качествами, которые раньше приписывались богам.

Городские пейзажи напоминали нечто из утопических фантазий прошлого: высокие здания из стекла и стали, сверкающие в свете искусственного солнца, очищенные от загрязнений улицы, тихие парки с аккуратными клумбами и деревьями, заботливо высаженными в строгом порядке. Жизнь здесь казалась безмятежной, идеальной. Люди перемещались по своим маршрутам в тихих капсулах транспорта, не беспокоясь о направлениях и графиках – ИИ всё делал за них, убирая малейшую непредсказуемость и тревоги из их жизни. Они доверяли ему, знали, что он всегда выберет лучший маршрут, предугадает, когда понадобится защита от дождя или когда автомобиль нужно будет подогреть в холодную погоду. Идеальность стала новой нормой.