Даже сравнительно недавно искусственный интеллект подразумевали рациональный анализ и воспроизведение при помощи компьютеров большинства аспектов интеллекта, так как он значительно превышают когнитивные способности человека в большинстве областей. Между тем, именно это заставляет опасаться некоторых этических рисков. Это риски трех видов: во-первых, дефицит работы, которая вместо людей будет выполняться машинами; во-вторых, последствия для независимости человека и, в частности, для его свободы и безопасности; в-третьих, опасения, что более «умные» машины будут доминировать над людьми и станут причиной гибели человечества. Однако при ближайшем рассмотрении становится очевидно, что работа для людей не пропадает, а трансформируется, требуя новых навыков. Точно так же независимость человеческой личности и ее свобода не подвергаются неминуемой опасности из-за развития искусственного интеллекта – при условии, однако, что человек остается бдительными перед лицом вторжения технологий в частную жизнь. В середине девяностых годов прошлого столетия мною (Ашимов И.А.) была выдвинута «Концепция запасных частей в хирургии», но осмыслить то, что в качестве запасных частей когда-либо станет и головной мозг мне представлялась в то время далеко не очевидной. На самом деле и сегодня далеко не просто осмыслить многие теоретические конструкты фантастической, по сути, сенсационной технологии создания интерфейса искусственного интеллекта плюс «мозг в контейнере». Представьте себе, изолированный мозг человека помещают в специальный контейнер с питательной средой. Каким-то образом налаживают тесную связь его с искусственным интеллектом, то есть создают интерфейс искусственного и естественного интеллекта («мозг плюс компьютер»). В результате искусной стимуляции определенной группы нейронов «мозга в контейнере» создается виртуальный мир, воспринимаемый изолированным мозгом уже «погибшего» человека, в качестве реального. Таким образом, виртуализированная личность находится в матрице, представляющая собой сон, в котором как будто бы он, то есть «мозг в контейнере» или иначе «аватар», находится, но сам того не осознавая. Интерфейс искусственного интеллекта плюс изолированного мозга создает для «аватара» иллюзию жизни в «реальном мире». Так или иначе, в любой момент времени виртуализированная личность, это чей мозг помещен в контейнер и сохраняет там свою интеллектуальную деятельность, не может быть уверен, что спит или бодрствует в реальном мире.

Естественно, вышеприведенная технология начисто отрицает идею о том, что в противоположность некоторым утверждениям, машины не несут в себе экзистенциального риска для человечества, поскольку их автономия носит лишь технический характер и в этом смысле не соответствует цепочкам материальной причинности, идущим от информации к принятию решений. Многие разработчики пока теряются в иллюзиях о том, что изолированный интерфейс искусственного интеллекта с человеческим мозгом не самостоятелен в моральном плане, и потому, даже если иногда они сбивают нас с толку и вводят в заблуждение своими действиями, они все же не обладают собственной волей и подчиняются тем целям, которые мы перед ними ставим. В романе «Аватар» речь идет об интерфейсе искусственного интеллекта и изолированного человеческого мозга, как о «новом сознании» с потенциалом решения и некоторых морально-этических вопросов. Отсюда, понятно, что искусственный интеллект содержит в какой-то мере сознание, которое не локализуется в физическом теле. Но при этом нужно понимать, если мы признаем, что сети, в которые, к примеру, я включен, и которые вместе со мной осуществляют мыслительные процессы, – это часть моего расширенного сознания, то рассматривать меня, мое эго как действующего субъекта уже не так просто. То есть уже непонятно, кто здесь действует – я действую, или сеть действует мной. Ключевая проблема, которая возникает, это не столько проблема замены сознания человека мыслящей технологической сетью, сколько проблема доказательства того, что человек плюс искусственный интеллект – это лучше, чем просто искусственный интеллект. Где тогда находится человек? Этот мозг – это система каких-то его вычислений? Что тогда останется от человека, что есть «я»? Мозг – это последняя надежда тех, кто хочет локализовать сознание на каком-то очень и очень надежном материальном носителе. Это ныне главная метафора для человеческого эго. В этих условиях мозг оказывается, как бы внешним, мы проводим некоторую границу между нами и нашим мозгом. Мы говорим: наш мозг влияет на нас. Но если мозг влияет на нас, значит, мы – это что-то другое? Мой мозг – это «Я». Мозг служит идентификационным признаком «Я». Вот мы – человечество и мечтаем о создании интерфейса «мозг плюс суперкомпьютер».