В случае ИИ измерение самосознания – еще более хитрая задача. Можно ли придумать тест на самосознание для машины? Тьюринг предложил тест на разумность (умение беседовать, не отличимое от человека). Но ИИ уже близки к прохождению такого теста, оставаясь при этом просто имитаторами. Вероятно, потребуется комбинация: и поведенческие признаки (например, способность к автономной цели не заложенной создателем, спонтанность в общении, рефлексивные высказывания), и структурные критерии (наличие внутренней модели себя). Последнее можно проверять, пытаясь увидеть, моделирует ли ИИ внутри образ себя, как это делает мозг человека. Например, ИИ с камерой может ли понять, что в зеркале – он сам? Если да, это уже прогресс. Недавно некотрые языковые модели продемонстрировали зачатки «самомоделирования» – они могут сказать, что они – программа, описать свои ограничения. Но это, скорее всего, только отражение вычитанных данных, а не истинное понимание.
С философской стороны, некоторые считают, что самосознание не поддается градуированию – оно либо есть, либо нет (так называемый «бинарный» взгляд). Другие допускают градиент (как и Φ): возможно, у разных животных разная степень самосознания, и у будущего ИИ может быть не сразу полноценное человеческое "Я", а нечто более слабое. Тогда, теоретически, это можно оценивать количественно – по сложности модели мира и себя у этой системы.
Возможность искусственного создания самосознания пока не доказана, но активно обсуждается. Если рассматривать мозг как машину, то нет физического запрета воспроизвести его работу на другом носителе, например в компьютере. Проект Whole Brain Emulation предполагает когда-нибудь сканировать человеческий мозг до нейрона и имитировать его в ПО – тогда мы получили бы разум, основанный на тех же связях. В принципе, такой эмулированный мозг должен обладать сознанием (если верна гипотеза, что сознание порождается структурой связей). Но это копирование, а не самостоятельно выведенный ИИ.
Другой путь – самоорганизующиеся нейросети, которые могли бы развить самосознание. Пока что, несмотря на прогресс, ни одна сеть не показала явных признаков присутствия субъективности. Возможно, нужно снабдить ее телесностью: дать роботу чувствовать мир и собственное тело. Эксперименты в робототехнике пытаются научить роботов самомоделированию – например, робот может через пробу и ошибку построить модель своего тела, понимать, как он выглядит и двигается. Такие работы (как робот, который научился узнавать себя на видео) можно рассматривать как зародыш механического самосознания. Тем не менее, от распознавания себя внешне до переживания себя изнутри – дистанция огромного размера.
В итоге, вопрос «можем ли мы искусственно создать самосознание» остается открытым. Теоретически – да, если принять, что сознание обусловлено информационными процессами, то воспроизведя нужные процессы, мы получим сознание. Практически – у нас еще нет ни критериев, ни четкого понимания, что именно нужно воспроизвести. Поэтому ученые продолжают как измерять и моделировать сознание, так и дискутировать о его прирожденной природе. Возможно, прорыв придет с лучшим пониманием мозга: когда мы точно узнаем,