– Человек уже рождается с определенными способностями. И чувства присутствуют изначально, а не в виде накопления. Тем более не сравнивай понятия воспитания и программирования.

– Робот тоже создается для каких-то целей.

– Человек сам себе задает цели в течение жизни.

– Робот с программой саморазвития способен и на это.

– Программы саморазвития и самореализации закладываются разработчиком. Будет следовать человек какой-то цели или нет, определяется только им. Никто посторонний не вносит в него алгоритм действий.

– А как же социум, близкое окружение, культурный фон? Не это ли формирует схему поведения?

Кира замолчала.

Павел стал разминать шею. Спор робота и человека – что может быть скучнее? Если Кире нечем заняться, пусть поговорит с пультом управления в каре или, как прилетит, обсудит свои права с холодильником.

– В ходе вашего разговора, – встрял он, – складывается ощущение, что отдельного человека можно вообще не брать в расчёт.

Кира и робот, синхронно повернувшись, уставились на него.

– Ты предлагаешь брать группу? – спросила Кира.

– Я ничего не предлагаю. Я говорю, что если он не рассматривает человека как автономную единицу, то что нам мешает сказать, что и он далеко не самостоятельно мыслящее изобретение? Взять, например, семью, какой аналог может предложить робототехника?

– Роботы, завязанные в общую сеть, – пожала плечами Кира. – Группа роботов, управляемая с одного сервера.

Павел усмехнулся:

– Кем управляемая?

– Автономная группа роботов, – осторожно сказала Кира. – С заложенными функциями саморазвития.

– Коллективный разум, – с усмешкой добавил Мэтт.

Павел не рассмеялся, но очень хотелось. Он посмотрел на девушку, и та не выглядела довольной.

– Где ошибка? – спросила она немного погодя.

– Ошибка – в автономности, – сказал Мэтт, – робот может существовать в одиночестве, в отличие от человека. Для сравнения лучше брать одного робота и людскую семью.

– Нет, – сказала Кира, – это тоже ничего не даст.

ИИ улыбнулся.

– Я правильно понимаю? – немного подумав, спросил Павел. – Вы пытаетесь найти различия между человеком и роботом?

Кира неопределенно дернула плечом:

– Частично.

– А разве это не очевидно? Роботы не страдают.

Она смотрит на него какое-то время, нахмурившись, а потом медленно поворачивается к ИИ.

– Страдание означает наличие психики, – начал Мэтт с улыбкой, и Павел подозревает, что ему не понравятся сказанные слова. – Существование психики означает высокую степень организации, в которую входят память, способность к анализу и синтезу, восприятие среды, мышление и многое другое, но в конечном итоге все сводится к одному: сознанию. Таким образом, ты пытаешься сказать, что без страдания нет сознания, а это далеко не ново и отсылает нас к человеческой истории на тысячи лет назад под дерево Бодхи. Я же, в свою очередь, могу сказать, что, несмотря на отсутствие страданий, сознание во мне присутствует и далеко не в виде реакции на внешнюю среду.

Павел нахмурился, обдумывая.

Всё началось с того, что они пытались докопаться до разделов, которые могут заменить Три закона. Им это не удалось. Но если объективная замена существует, и робот знает о ней, то почему не рассказывает? Разве это не позволило бы избежать множества проблем? Или он не считает, что люди для него опасны? Если он способен к оценке собственных возможностей, разве это не означает, что он осознает себя? И разве самоосознание не определяет сознание?

«Нет, – подумал Павел, – сегодня наделим его сознанием, завтра уравняем в правах с человеком, а потом и сами не заметим, как станем рабами».

– Если я скажу, что роботы не способны к восприятию себя и собственной независимой оценке, ты скажешь, что это не так, – сказала Кира.