Критика – это искусство не быть столь управляемыми, писал Фуко 30 лет назад, и действительно, перспектива быть управляемым алгоритмами заслуживает жесткой критики[27]. Но люди боятся машин не с момента появления искусственного интеллекта; еще Гёте в балладе «Ученик чародея» (1897) писал об этом:

Возражения Платона против техники письма и сегодняшние возражения против гугления, просмотра видео на YouTube вместо чтения, использования искусственного интеллекта в процессе рассуждения и принятия решений – все они следуют основному технологическому мифу Запада: дух повреждается техникой, знания утрачиваются, человечество глупеет, и в конце концов человек теряет свою человечность.

Так, у Платона мы читаем:

В души научившихся им они вселят забывчивость, так как будет лишена упражнения память: припоминать станут извне, доверяясь письму, по посторонним знакам, а не изнутри, сами собою. Стало быть, ты нашел средство не для памяти, а для припоминания. Ты даешь ученикам мнимую, а не истинную мудрость. Они у тебя будут многое знать понаслышке, без обучения, и будут казаться многознающими, оставаясь в большинстве невеждами, людьми трудными для общения; они станут мнимомудрыми вместо мудрых[29].

Через 25 веков после Платона нейробиолог из Ульма Манфред Шпитцер в газете Wochenblatt (18 августа 2012 года) заявил:

Цифровые медиа делают за нас умственную работу и освобождают нас от размышлений, подобно тому, как автомобиль освобождает нас от физической работы. Как нейробиолог, я знаю, что это совершенно точно не проходит бесследно для мозга. Подобно тому, как из-за пассивного образа жизни наше тело теперь зависит от пробежек и фитнес-центров, мозг как динамичный орган также разрушается при отсутствии нагрузки.

Google заставляет нас поверить, что в нем мы можем найти любую информацию. Но исследования показывают, что у человека, ищущего информацию с помощью Google, она сохраняется в мозгу с меньшей вероятностью, чем у того, кто ищет ее другими способами. Или, например, в случае с ориентацией на местности: мы перепоручаем ее навигатору в автомобиле – не стоит удивляться, что сами мы ориентируемся все хуже и хуже. То же самое касается дней рождения, телефонных номеров, ментальной арифметики или правописания. Если в мозгу происходит меньше событий, мы меньше учимся и мозговые извилины формируются хуже[30].

Платон и Шпитцер имеют схожие представления о влиянии техники: машина создается или техника изобретается, чтобы служить человеку и облегчить его труд. Но вскоре они оборачиваются против своего изобретателя. Они отбирают у своего создателя одну способность за другой, пока он не оказывается полностью подчинен им или даже уничтожен. Машина становится субъектом истории, а человек, в свою очередь, превращается в бездумную машину.

История об ученике чародея – это своего рода теория протеза наоборот[31]. Если в теории протеза инструмент и машина понимаются как заменители частей тела и телесных функций, облегчающие работу, то, согласно перевернутой теории протеза, техника отбирает у человека его способности до тех пор, пока машина не заменит ему мозг. Тогда он уже перестает быть человеком.

Базовая идея «Ученика чародея» сохранилась, несмотря на бесчисленные варианты, возникшие со времен Платона, однако она не отражает сущность человека, как если бы обращение с технологиями было генетически обусловлено. Этому противоречит, во-первых, тот факт, что этот миф специфичен для Запада, во-вторых, то, что варианты столь же важны, как и основной миф, для понимания наших эмоций от техники, и, в-третьих, то, что аффективные установки в любом случае реагируют как носители знания: в быстро развивающихся культурах они всегда отстают от процесса познания, иногда на столетия. Вот почему бессознательные страхи прошлой эпохи могут привязываться к текущим ситуациям. В случае с отдельным человеком это называется неврозом; если речь идет о коллективе, то, насколько я знаю, названия у этого явления нет, хотя оно известно и широко распространено. Например, идея антипрививочников о том, что дети должны подвергаться воздействию вирусов, потому что природа хочет укрепить их – детей, а не вирусы, разумеется, – навеяна устаревшим, но по-прежнему эмоционально значимым представлением о доброй природе. Следуя той же логике, можно было бы отдавать детей тигру. В конце концов, бегство может сделать их ноги сильными.