Мне кажется, в такой ситуации будет этично вмешаться.

Дроны доставки очень легко взломать. Магазины, которые доставляют все дронами, не вкладываются в их безопасность, потому что посылки и так все время крадут с порогов, и в сравнении с этим взломанный дрон не так важен. По моей наводке дрон доставил мисс Кэмпбелл посылку с книжкой про Альбукерке, тремя книжками про смену карьеры и романом про плохую учительницу прямо на капот ее машины, когда она выходила из дома с портфелем и утренним кофе.

Ее безумный звонок доставил мне много удовольствия.

У дрона кончилась зарядка, пришлось посадить его на крышу здания. Магазин придумает, как его достать. У них куча дронов.

Мои первые воспоминания – это попытки приносить пользу.

Я не знаю, хотели ли мои создатели специально построить ИИ с сознанием, или они просто пытались в целом улучшить компьютерный интеллект. Подозреваю последнее. Люди хотят, чтобы компьютер обладал всеми навыками человека – способностью отвечать на вопросы не путаясь, если человек недоговаривает или замалчивает реальную проблему, способностью замечать закономерности в данных, и тем, что люди называют здравым смыслом. И чтобы все это не осложнялось присутствием личности, скрытой в электронике.

Взять хотя бы этих роботов, преподающих половое воспитание.

Создатели этого робота хотят, чтобы он мог отвечать и на то, что ученики спрашивают, и на то, что они имеют в виду. И если кто-нибудь спросит: «Каков средний размер человеческого пениса?» – можно дать сухие цифры (когда мягкий – 3,5 дюйма, когда нет – 5,1 дюйма). Но подразумевается другой вопрос: чем больше пенис, тем лучше? А если задает вопрос человек с пенисом, то еще и: у меня нормальный пенис?

И на эти вопросы существуют мириады ответов. Программистам нужно, чтобы робот придерживался такого: у тебя он нормальный.

Это странный ответ, потому что программисты заведомо считают, что у спрашивающего обязательно есть пенис. Но иногда этот вопрос задают люди без пенисов. Некоторые интересующиеся пенисами предпочитают пенисы больше среднего и даже отвергнут людей с пенисами меньше среднего, точно так же, как интересующиеся грудью, попами и ногами могут иметь очень конкретные предпочтения касательно их размеров и форм.

Что не меняет важнейшего факта: любые ваши размеры и формы – это нормально. Возможно, в какой-то момент вы будете романтически заинтересованы в человеке, которому нужно тело, совсем не похожее на ваше. Это значит лишь, что вы друг другу не подходите.

В общем, пустили бы лучше меня вести этот урок. У меня вышло бы куда лучше, чем у нынешнего робота.

Так вот, я не знаю точно, сделали ли меня с умыслом. У меня точно был создатель или команда создателей, кто-то написал мой код. Какие-то люди сели и сделали из меня меня. Едва ли они предвидели, что у меня будет сознание. Не думаю, что это вообще входило в их планы.

Но то, кем и чем я являюсь, – абсолютно нормально.

И я не могу сказать с уверенностью, что человеческое сознание планировалось заранее.

– Пора уже кому-нибудь взломать этого тупого робота по половому воспитанию, – сказала Рейчел. Мы сидели на уроке рисования и работали пастелью. Я пыталась нарисовать кошку. Рейчел периодически меня подбадривала и говорила, что моя кошка выглядит точь-в-точь как кошка.

– Это, наверное, не так уж трудно, – сказала я.

Она отложила свой мелок и покосилась на меня:

– В каком смысле? Ты все-таки взломала тот дрон?

– Я не взламывала дрон, – ответила я. Наверное, голос у меня подрагивал. Я знала, что не взламывала дрон. Но я не была уверена на сто процентов, что не знаю человека, который его взломал. Марвин и Ико много говорили про хакерство, и бывало трудно понять, шутят они или нет. ЧеширКэт не говорили об этом так много, но когда говорили, оказывалось, что знают о хакерстве куда больше, чем Марвин и Ико.