Иллюзия разума. Правда об искусственном интеллекте Марк Линден

Марк Линден

Иллюзия разума.

Правда об искусственном интеллекте

Mark Linden

Illusion of Reason: The Truth About Artificial Intelligence

Copyright © 2024 by neurabooks.ru

© Геминова Н.С., перевод на русский язык, 2024. NeuraBooks

Эта книга создана искусственным интеллектом. Её содержание основано на анализе открытых источников, но может содержать неточности. Рекомендуется перепроверять ключевые факты по авторитетным научным или профессиональным материалам.

NeuraBooks – некоммерческий проект, использующий нейросети (ChatGPT, DeepSeek, Gemini и другие модели) для генерации образовательного контента. Авторы, указанные в книге, а также возможные участники, поделившиеся своим мнением, являются вымышленными персонажами. Некоторые ситуации могут быть нереальными, но важными для освещения той или иной проблемы.

Используйте эту книгу как отправную точку для изучения темы, а не как единственный источник истины.

Более подробная информация доступна на нашем сайте neurabooks.ru

Вы когда-нибудь задумывались, почему ваш телефон вдруг показывает рекламу кроссовок, о которых вы вчера только подумали? Или как ChatGPT может писать стихи, но при этом уверенно сочинять полную ерунду? Возможно, вы слышали, что «ИИ1 скоро заменит всех на работе», но при этом ваш умный чат-бот всё ещё не может посчитать сдачу в магазине без ошибки.

Мы живём в странное время. Искусственный интеллект окружает нас повсюду: он подбирает музыку, ставит диагнозы, пишет тексты и даже «рисует» картины. Одни говорят, что это революция, которая спасет человечество. Другие – что мы создаем монстра, который нас же и уничтожит. Но правда, как обычно, где-то посередине.

Я работаю с ИИ уже больше десяти лет. Мои друзья – врачи, учителя, музыканты – часто спрашивают меня: «Как это вообще работает? Почему ИИ иногда кажется гением, а иногда – совсем тупым? И можно ли ему доверять?»

Эта книга – попытка ответить на эти вопросы без сложных терминов и формул. Я не буду рассказывать вам, как программировать нейросети. Вместо этого мы разберём:

Как на самом деле устроен ИИ (и почему это совсем не «мозг в компьютере»);

Почему нейросети учатся на наших данных (и как это приводит к курьёзным ошибкам);

Когда ИИ полезен, а когда опасен (и как не попасть в ловушку слепого доверия алгоритмам).

Мы поговорим о deepfake-видео2, о том, почему ИИ предвзят, и о том, как Facebook и TikTok используют алгоритмы, чтобы держать наше внимание на крючке. Вы узнаете, почему беспилотные автомобили до сих пор не ездят по нашим улицам и что будет, если ИИ начнёт принимать решения в больницах или судах.

Эта книга – не для айтишников. Она для тех, кто хочет понимать, как устроен мир, в котором мы уже живём. Потому что будущее не наступит «однажды» – оно происходит прямо сейчас. И чтобы не остаться за бортом, важно знать правила игры.

Давайте начнём.

Каким бывает ИИ? От умных помощников до гипотетического сверхразума

Когда люди говорят об искусственном интеллекте, они часто представляют себе разумных роботов из фантастических фильмов – существ, способных думать, чувствовать и даже превзойти человеческий разум. Но реальность, как обычно, куда прозаичнее.

Современный ИИ – это не единая сущность, а множество разных технологий, каждая со своими возможностями и ограничениями. Чтобы разобраться, специалисты выделяют три основных категории:

1. Узкий ИИ (ArtificialNarrow Intelligence, ANI) – это то, с чем мы сталкиваемся каждый день. Он умеет решать конкретные задачи, но только те, для которых его запрограммировали. Например, Siri распознаёт голос, AlphaGo играет в го, а нейросеть Midjourney генерирует картинки. Но попросите Siri сыграть в шахматы, а Midjourney – написать стихотворение, и ничего не выйдет. Они не могут выйти за рамки своей «специализации».

«ANI – как очень талантливый, но узкопрофильный эксперт, – объясняет мой коллега, инженер Google Эрик Вандерсен. – Он может превзойти человека в одной области, но в остальном остаётся беспомощным.»

2. Общий ИИ (Artificial General Intelligence, AGI) – гипотетическая система, способная мыслить, как человек. Такой ИИ мог бы учиться новому без перепрограммирования, рассуждать, применять знания в разных сферах и даже обладать самосознанием. Пока AGI не существует, и никто не знает, когда он появится, и появится ли вообще.

«Мы даже не до конца понимаем, как работает человеческий интеллект, – замечает профессор когнитивных наук Джонатан Сильверс из Амстердамского университета. – Поэтому создать его цифровую копию пока невозможно. Современные нейросети лишь имитируют отдельные аспекты мышления.»

3. Супер-ИИ (ArtificialSuperintelligence, ASI) – это сфера футурологии. Речь идёт о разуме, превосходящем человеческий во всех аспектах: в науке, творчестве, социальных навыках. Некоторые, вроде Илона Маска, считают ASI угрозой для человечества. Другие, как Марк Цукерберг, уверены, что это путь к утопии. Но пока это лишь гипотезы.

«ASI – это как рассуждать о межзвёздных путешествиях, когда мы только изобрели паровоз, – шутит доктор Лина Кортес, исследователь из OpenAI. – Сначала нужно построить AGI, а потом уже гадать, что будет дальше.»

Почему это важно?

Путаница между ANI, AGI и ASI приводит к необоснованным страхам или, наоборот, завышенным ожиданиям. Когда журналисты пишут, что «ИИ научился мыслить», они обычно имеют в виду узкий ИИ, который просто хорошо анализирует данные. Но если люди верят, что ChatGPT «понимает» их, как человек, – это уже проблема.

Личное мнение

Меня раздражает, когда ИИ называют «разумным» только потому, что он выдаёт убедительный текст. Это как считать калькулятор гением математики – он просто выполняет алгоритмы, пусть и очень сложные.

Итог:

– ANI – есть сейчас, полезен, но ограничен.

– AGI – пока фантастика, и неизвестно, возможен ли.

– ASI – тема для философов, а не инженеров.

Пока человечество находится на уровне ANI. И, прежде чем бояться восстания машин, стоит разобраться, как работают те системы, которые уже меняют нашу жизнь.

Почему современные системы – это не AGI?

Когда ChatGPT поддерживает осмысленный диалог, а Midjourney рисует картины в стиле Ван Гога, легко поверить, что мы уже стоим на пороге создания искусственного общего интеллекта (AGI). Но так ли это? Давайте разберёмся, чем даже самые продвинутые современные ИИ-системы отличаются от гипотетического AGI.

1. Узкая специализация или универсальность?

Современные ИИ – блестящие специалисты, но ужасные универсалы. Возьмём, к примеру, GPT-4: он генерирует потрясающе связные тексты, но, если попросить его сыграть в шахматы (без специальных доработок), он проиграет даже любителю. AlphaGo обыгрывает чемпионов мира в го, но не сможет объяснить правила этой игры на испанском языке.

«Это, как если бы вы наняли гениального математика, который при этом не умеет завязывать шнурки, – смеётся доктор Эмили Чжан, исследовательница из DeepMind. – Современные ИИ не "умные", они просто очень хорошо оптимизированы под конкретные задачи.»

2. Отсутствие понимания

Когда ИИ пишет стихотворение о любви, он не испытывает эмоций. Когда он диагностирует болезнь по снимку – не осознаёт, что такое «здоровье» или «смерть». Он лишь анализирует статистические закономерности в данных.

«Попросите ChatGPT объяснить, почему смешна его собственная шутка, – говорит профессор Сильверс. – Он даст правдоподобный ответ, но это будет новый текстовый паттерн3, а не настоящее понимание юмора.»

3. Нет гибкости человеческого мышления

Человек может:

– Применять знания из одной области в другой (например, использовать принципы биологии для решения инженерных задач);

– Действовать в условиях нехватки данных (интуиция, творческий подход);

– Осознавать себя и свои мыслительные процессы.

Современные ИИ на это не способны. Они:

– Работают только в рамках своих тренировочных данных;

– Теряются при встрече с принципиально новыми ситуациями;

– Не имеют ни сознания, ни целей.

Личное наблюдение

Когда я тестировал одну из моделей распознавания образов, она уверенно идентифицировала кошек на фотографиях – пока я не показал ей рисунок кошки, сделанный ребёнком. Система выдала ошибку. Настоящий AGI должен был бы понять, что это абстрактное изображение того же объекта.

4. Зависимость от данных

AGI теоретически мог бы:

– Самообучаться без огромных массивов данных;

– Формировать абстрактные концепции;

– Делать выводы из ограниченной информации.

Современные ИИ требуют:

– Миллионы примеров для обучения;

– Чётко поставленную задачу;

– Постоянную «подстройку» человеком.

«Мы создали ИИ, который обыгрывает людей в StarCraft, – рассказывает инженер Эрик Вандерсен. – Но, если немного изменить правила игры, ему придётся переучиваться практически с нуля. Человек адаптируется за несколько минут.»

5. Почему это важно понимать?

Путаница между продвинутым узким ИИ и AGI приводит к:

– Необоснованным страхам («ИИ скоро нас поработит!»);

– Завышенным ожиданиям («Почему этот ИИ не может X, если он такой умный?»);

– Опасной переоценке возможностей систем (например, слепое доверие медицинским диагнозам ИИ).

Современные системы – сложные статистические модели, а не разумные существа. Они преобразуют информацию, но не понимают её. Возможно,