– Содружество состоит из свободных государств под общим управлением единого правительства, – принялась рассказывать девочка. – При принятии решений правительство советуется с искусственным интеллектом Акили5. Правительство не обязано следовать его советам, но Акили имеет право отменить любое решение правительства, если оно может навредить человечеству. Например, он отменил запуск ядерных ракет во время двухдневной войны с Марсом…

– А почему он это сделал? – прервал Тасин доклад папа.

– Потому что… – снова задумалась девочка.

– Ну? – подбодрил Павел Сергеевич.

– Акили опросил всех людей, и они сказали, что не хотят войны, – неуверенно предположила Тася.

– Что ж, опрос был действительно проведён, но решающее значение имел не его результат, а заложенные в архитектуру интеллекта Акили общечеловеческие моральные принципы. В отличие от людей, Акили не подстраивает мораль под сиюминутные потребности и желания. Например, для него обман – это всегда обман, независимо от цели, ради которой ты лжёшь, – тряхнул головой Павел Сергеевич. – Так вот, в случае с запуском ядерных ракет было однозначно понятно, что это действие может привести к гибели огромного количества людей, а это неприемлемо ни под каким предлогом. Поэтому Акили отменил запуск, и никто не мог изменить его решения. Потому что Акили действует, думая о благе всех людей, а не какой-то отдельной группы или тем более кого-то одного. Понимаешь? А кроме всего прочего, у него есть установка, известная как закон номер ноль. Ты его знаешь?

– Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред, – отчеканила девочка.

– Правильно. А это возвращает нас к моему первому вопросу.

– Какому? – не поняла Тася.

– Как продвигается твоё эссе? Решила ты, как повлияют законы Азимова на человеческое общество, если применить их к людям?

– Ну это просто! – пожала плечами Тася. – Я вообще не понимаю, почему их до сих пор не применяют. Например, если переделать первый закон под людей вот так: «Человек не может причинить вред другому человеку или своим бездействием допустить, чтобы другому человеку был причинён вред», – то больше никогда не будет войн.

Павел Сергеевич одобрительно покачал головой.

– Прекрасная мысль! А как ты собираешься заставить людей подчиняться этому закону? Всех роботов, напомню тебе, азимизируют – законы робототехники становятся неотъемлемой частью их личности. А как же быть с людьми?

Тася задумалась.

– Не знаю… – наконец пожала она плечами. – Может, гипноз?

– То есть ты предлагаешь загипнотизировать всё человечество?

– Ну да.

– А чем же мы тогда будем отличаться от роботов?

– Но я, в отличие от роботов, живая! – возмутилась Тася.

– Да уж, иногда даже слишком, – папа улыбнулся, обнял Тасю и тихонько подул ей в ухо.

Это было очень щекотно! Тася попыталась вырваться, но папа держал крепко. Тогда она стала щекотать его, а он её. Но папа щекотки не боялся, а Тася просто задыхалась от смеха! Тогда она стала дрыгать ногами и вырываться, а он всё равно не отпускал – и это было здорово!

«Вот всегда он так, – думала девочка, укладываясь спать, после того как папа ушёл в своё купе, – подкинет какую-нибудь задачку, а потом сделает вид, что ни о чём таком серьёзном мы не говорили. А ты потом голову ломай. Теперь до утра буду думать, как запрограммировать человечество, – не смогу уснуть. Вот Врунгель бы, наверное, нашёл выход из положения…»

Она закрыла глаза и стала фантазировать о том, как капитан Врунгель вместе со старшим помощником Ломом будут перевоспитывать сначала шпиона генерала Кусаку, а потом вообще всех людей. Кажется, она вместе с капитаном даже что-то придумала…