Робот без души – это ваше тело в режиме зомби.
Этот пример показывает, что биоробот без квалиума отличается от биоробота с квалиумом. Квалиум необходим.
Животное морской огурец в молодости плавает по морю и ищет точку своей постоянной дислокации. В этот период ему нужен мозг, чтобы ориентироваться в пространстве. Найдя подходящий камень, огурец закрепляется на нём и затем… переваривает свой мозг. Потому что огурцу больше не нужен мозг. Растениям не нужен мозг.
Похожее происходит и с сознанием (квалиумом). Оно исчезает, когда не нужно. Сознание энергозатратно поэтому оно включается только когда необходимо. Значит, без него что то невозможно делать.
Значит мозги в облаке будут востребованы. В скором времени нас ждёт мир, полный ИИ. ИИ будет в каждой розетке. Значит, «Душа Робота» будут огромным бизнесом.
10.1.1.3. Душа робота как способ контроля робота
Каким образом ИИ может уничтожить человека или всех людей? Скорее всего, число таких вариантов триллион или даже бесконечность. Много вариантов будет закрыто разработчиками. Однако всегда останется незакрытый вариант. Возможно не получиться сделать на 100% безопасный действительно сильный ИИ. Если ИИ 99.999% времени будет абсолютно безопасен, но существует одна ситуация из миллиона, когда он выходит из под контроля и уничтожает человечество, то эта роковая ситуация обязательно когда либо произойдёт.
При наличии у ИИ специального квалиума ситуация меняется. Для понимания проведём аналогию.
Представим деревню у подножия горы. На деревню с горы катится камнепад. Множество камней, катящихся с горы – это аналог ИИ. Камнепаду бесполезно что либо объяснять. Остановить камни возможно только физическим способом. Камнепад ничего не боится. У него нет квалий страха и боли. Так же применима аналогия с падающими костяшками домино. Камнепад это автомат.
А теперь представим, что к деревне подошёл динозавр Раптор. Динозавра можно остановить не только физическим способом. Его можно напугать и он убежит. Потому что у него есть чувство страха и боли. Квалии – это способ влиять на интеллектуального агента.
В ситуации, когда у ИИ есть душа, а значит страх и боль, он превращается просто в ещё одно живое существо, которому можно объяснить, что такое мораль и этика и который вынужден считаться с другими живыми существами, столь же сильными что и он.
Другими словами у ИИ появляется собственная «шкура» которую надо оберегать. Душа робота – это механизм его контроля.
Подробнее. Пророчества «Боги второго уровня». Главы 9—12.
10.1.1.4. Душа нужна роботу для поиска новых нестандартных решений в нестандартных ситуациях
Нейросети являются универсальным аппроксиматорами. Другими словами они находят закономерности в данных. Об этих закономерностях часто не знают даже создатели нейросетей. Знание закономерностей позволяет предсказывать то, что уже случалось. То, что повторяется. А в принципиально новой ситуации нейросети бессильны.
Посмотрим с другого ракурса. ИИ работает на битах 0 и 1, то есть дискретен и, следовательно, обладает пусть и огромным, но ограниченным числом внутренних состояний. Следовательно, он способен принимать ограниченное число разных решений.
Потенциально возможных ситуаций в жизни бесконечное множество. С усложнением мира постоянно возникают новые ситуации и происходят эмерджентные эффекты.
Понятно, что ИИ с ограниченным числом внутренних состояний не способен справиться с бесконечным числом возникающих ситуаций.
Квалиум же способен порождать новые квалии.
Подробнее – Волшебные вспышки квалий. Теория симуляции вида «Экзотическая в кубе» Е3. Глава 17.