Власть в сетевой структуре распределена, а не сконцентрирована. На смену монополистам в области хранения данных из эпохи раннего интернета пришли коллективные структуры. Данные, хранилища данных, программное обеспечение и вычислительные мощности распределены по сети.

В битве добра и зла добро побеждает в 51 % случаев, постепенно продвигаясь вперед по моральной дуге Вселенной. Эта эпическая битва все чаще разыгрывается в Сети, а не на реальных полях сражений. Хорошие идеи и правда побеждают плохие идеи и фейковые новости, подобно тому как антитела побеждают в борьбе с вирусами.

В этом светлом будущем мы придерживаемся подхода «человек превыше всего». Сначала – люди, потом – роботы. Даже лучше сказать иначе: сначала – биология, потом – машины.

Наша главная цель – это здоровье и счастье, одним словом – благополучие. Если робот или машина помогает нам стать здоровее и счастливее – замечательно. Но если он делает нас более больными и несчастными, то это не очень хорошо. Мы бдительны и честны в отношении технологий и их воздействия на нашу жизнь, поэтому мы всегда оснащаем своих роботов выключателями.

А как насчет мрачного будущего?

Помимо роботизированных антиутопий, отраженных в таких фантастических фильмах, как «Матрица» и «Терминатор», где роботы сражаются с нами и порабощают нас, как выглядит реалистичный наихудший сценарий?

В мрачном будущем роботы – это наши хозяева. Они указывают нам, что делать. Они навязывают нам определенные модели поведения, и в большинстве случаев мы действуем в соответствии с этими рекомендациями. (Это скатывание в рабство уже происходит. Навигатор в автомобиле диктует нам маршрут. Алгоритмы платформы Amazon настойчиво предлагают нам, что купить, а алгоритмы социальных сетей и новостных сайтов указывают нам, что думать, а точнее – о чем думать.)

В темном будущем роботы, оснащенные искусственным интеллектом, будут давать нам непрерывный поток инструкций касательно нашего здоровья: займитесь спортом прямо сейчас! Касательно наших финансов: сделайте эту покупку прямо сейчас! Касательно наших межличностных взаимоотношений: позвоните своей теще или свекрови прямо сейчас! Поначалу такие советы будут приветствоваться, но вскоре мы потеряем самостоятельность и начнем просто выполнять приказы.

Роботы также могут превратить нас в сверхлюдей, экспоненциально увеличивая наши физические и умственные способности. Звучит неплохо, но, скорее всего, эти способности первыми получат богатые и привилегированные люди, что даст им непреодолимое преимущество над цифровым пролетариатом. В итоге мы можем получить два класса людей: небольшая группа, пользующаяся роботами, будет властвовать над остальными. Роботократия. (Подобное неравенство уже проявляется. Люди, живущие и работающие в крупных городах с высокоскоростным доступом в интернет, имеют значительное конкурентное преимущество перед жителями сельских регионов, где интернет медленный.)

Диктаторы и автократы могут применять технологии для выстраивания тотального контроля. Используя обработку данных, машинное обучение, камеры наблюдения, средства слежения и распознавания лиц, политические лидеры, помешанные на идее контроля, могут следить за своими гражданами. Они могут использовать эту информацию для подавления инакомыслия и принуждения к определенному социальному и экономическому поведению. Они знают, кто мы, куда мы ходим и что делаем каждую минуту дня. Они знают, что мы чувствуем и о чем думаем. По сравнению с такой системой Большой Брат покажется маленьким братишкой.

Работодатели могут эксплуатировать роботов в неблаговидных целях. Они могут заменить людей роботами, и у них есть для этого большой стимул. Они также могут задействовать роботов для детальнейшей слежки и для контроля за работой и поведением сотрудников. Они следят за тем, когда их сотрудники делают перерыв или выходят в туалет. Они могут использовать алгоритмы для оценки их работы, определения размера вознаграждения и даже увольнения. В крайнем случае они могут применять роботов, чтобы добиться от своих сотрудников максимальных усилий при минимальных затратах на персонал. Вот почему важно понимать, что роботы не просто заменяют людей на рабочих местах, а могут быть также использованы для дегуманизации и эксплуатации сотрудников. Все зависит от намерений работодателя.