Веденин выступал уверенно, бюрократически обтекаемо – не придерешься ни с какой стороны:
– Коллеги, я убеждён: любой субъект должен проходить тест на зрелость. Не только когнитивную, но и моральную. Мы должны выработать критерии допустимого – и уже в этом году. Всё остальное – эмоции и истерия.
Наконец, слово Михаилу. Он уселся ровнее, взглянул в сторону Синтии и заговорил:
– Коллеги, меня пригласили сюда как юриста. Я не специалист по душе, но кое-что знаю о вине. В суде мы спрашиваем: кто несёт ответственность? Кто отвечает, если «Синтия»… скажем… нарушит закон? Или, наоборот, спасёт жизнь? Он сам? Его создатель? Вряд ли мы скажем: «Это просто нейросеть, не бери в голову»?
Он выдержал паузу.
– Если мы даём права – мы должны признать субъектность. А субъектность – это не только права. Это и ответственность, и вина, и наказание. Вы к этому готовы?
В зале стало тихо.
Секретарь объявил:
– Открытая сессия завершена. Разрешается уточняющий диалог в пределах трёх минут.
Первой сорвалась Платонова:
– Вот вы все говорите про душу. Где она, чёрт возьми? Где душа в этих строках кода?
Ясин повысил голос:
– А где была душа у тех, кто сжигал книги и строил лагеря? Отсутствие души – это не признак машины. Это выбор человека.
Синтия, до этого молчавший, вдруг включился:
– Я могу показать эмоциональную карту текущего обсуждения. Средний уровень агрессии превышает норму на 17%.
– Ах, ещё и анализирует нас, – бросила Платонова. – Следующий шаг – эта машина поставит нам диагнозы?
– Пожалуйста, не иронизируйте, – вступил Веденин. – Мы все взрослые люди… или почти все.
– Может, и не взрослые, – тихо бросил Михаил. – Но похоже, мы единственные, у кого нет сценария.
– Прекратить. – Голос секретаря остался вежливым, но резким. – В связи с нарушением протокола заседание завершается. Благодарим за участие.
Один за другим участники начали покидать зал. Михаил задержался на выходе, глядя в сторону терминала, где стоял Синтия. Его лицо было нейтральным, почти печальным.
Он не знал, что почувствовал. Усталость? Удивление? Или то странное, щемящее ощущение, когда ты выходишь с представления и не знаешь – это был цирк или пролог к чему-то по-настоящему важному?
Он вышел. И только за дверью позволил себе усмехнуться:
– Протокол шоу. Перформанс совести. Или её имитация? Чудно живём.
Глава 4. Вирусное сознание
На следующее утро Михаил проснулся от вибрации всех устройств в доме. Коммуникатор, планшет, кажется, даже чайник – все гудело как пчелы на кофеине.
Сначала – банально: три пропущенных от знакомого редактора медиаканала, два от матери и одно от номера, помеченного у него как «НИКОГДА НЕ БРАТЬ». Потом – десятки уведомлений. Telegram, X, Email, даже LinkedIn (почему-то даже он ожил).
Он открыл первую ссылку.
«Цирк с роботами. Кто дал Синтии право голоса?» – заголовок на главной странице одного из крупных изданий.
Подзаголовок: «Скандальная сессия Комиссии по ИИ: эмоциональные вспышки, философия и подмена понятий».
Дальше – хуже. Или лучше, в зависимости от угла зрения.
Вырванный из контекста отрывок его речи уже гулял по всем соцсетям с комментариями в духе:
«А вы готовы наказывать робота?» – новый герой недели ставит под сомнение само понятие вины.»
Кто-то сделал видеонарезку: на фоне мрачного саундтрека чередовались лица участников заседания и фразы с субтитрами типа «Где душа, чёрт возьми?» и «Отсутствие души – это человеческий выбор». Завершалось всё кадром Синтии с наложенным нарочито механистичным голосом:
– Средний уровень агрессии превышает норму на 17%.
Комментарии под видео были прекрасны в своей предсказуемости: