В главе 8 я рассматриваю другой, комплементарный подход к ОИИ – открытое обучение в виртуальных средах. При таком подходе системы ИИ выступают как активные агенты в симулированных мирах, а не просто пассивно обучаются на созданных человеком данных. Идея основана на том, чтобы позволить ИИ развиваться эволюционным путем, подобно тому как развивался интеллект на Земле. Ученые давно изучают агентов, обучающихся действовать для максимизации вознаграждения, но несмотря на значительные успехи, такие агенты обычно вырабатывают ограниченные стратегии вместо универсальных решений. Особенность открытого обучения в том, что система ИИ сама формулирует свои цели и создает задачи, которые считает нужным решить. Это помогает избежать чрезмерной специализации. Хотя результаты обнадеживают, остается вопрос: смогут ли такие системы освоить навыки, полезные для человека?

Допустим, нам удастся создать систему искусственного интеллекта со значительной степенью общности. Будет ли у нее внутренний опыт существования? Будет ли у нее собственная точка зрения и самосознание? И если да, возникнут ли у нас этические обязательства перед такой системой? В главе 9 я рассматриваю сложную проблему сознания ОИИ. Хотя однозначных ответов в этой области нет, существуют заслуживающие внимания аргументы.

Опираясь на все это, мы можем обратиться к самой обсуждаемой идее в сфере ОИИ – той, что вызывает у людей одновременно восхищение и страх. Глава 10 рассматривает концепцию сверхинтеллекта (или взрывного роста интеллекта). Суть аргумента в том, что достаточно развитая система ИИ сможет совершенствовать сама себя, становясь все умнее, что приведет к экспоненциальному росту интеллекта. По сравнению с таким интеллектом мы окажемся на уровне муравьев. Насколько обоснован этот аргумент? Согласуются ли его допущения с нашими знаниями об ИИ?

В главе 11 я анализирую социальные последствия появления ОИИ. Как гипотетическая система ОИИ повлияет на занятость и наше чувство самоценности? Ограничит ли она наши возможности управлять обществом? Анализ ОИИ в социальном контексте особенно важен, так как позволяет лучше осознать разнообразие человеческой деятельности и задач, с которыми должен будет справляться по-настоящему общий ИИ.

Наконец, в главе 12 я попробую обобщить содержание книги в емкий вывод. Подходя к концу книги, я вряд ли смогу удержаться от высказывания личного мнения. Острота суждений – умеренная.

Но это впереди. А пока вернемся к истокам цифровой эры.

Машины, превосходящие человеческий интеллект, уже существуют – они лучше большинства людей справляются с некоторыми задачами, для решения которых, как принято считать, требуется интеллект. Такие машины существуют уже долгое время, как минимум несколько десятилетий. Точная длительность этого периода зависит от того, какие именно задачи мы считаем требующими интеллекта. С годами это понимание менялось.

История искусственного интеллекта – попыток научить компьютеры выполнять действия, которые считались бы разумными, если бы их совершал человек, – восходит к 1940-м годам. Эта история не могла начаться раньше, так как до 1940-х не существовало цифровых компьютеров общего назначения. Практически сразу после создания первых таких компьютеров, которые по современным стандартам были громоздкими, медленными и крайне ограниченными, на них начали проводить эксперименты в области искусственного интеллекта. По сути, перспектива создания ИИ была одним из главных стимулов развития компьютеров. Этому способствовали как понимание потенциальной пользы от автоматизации различных видов мышления и обучения, так и извечное стремление человечества воссоздать интеллект в небиологической форме.