– это искусство не быть столь управляемыми, писал Фуко 30 лет назад, и действительно, перспектива быть управляемым алгоритмами заслуживает жесткой критики[27]. Но люди боятся машин не с момента появления искусственного интеллекта; еще Гёте в балладе «Ученик чародея» (1897) писал об этом:
Вызвал я без знания
Духов к нам во двор
И забыл чуранье,
Как им дать отпор[28]!
Возражения Платона против техники письма и сегодняшние возражения против гугления, просмотра видео на YouTube вместо чтения, использования искусственного интеллекта в процессе рассуждения и принятия решений – все они следуют основному технологическому мифу Запада: дух повреждается техникой, знания утрачиваются, человечество глупеет, и в конце концов человек теряет свою человечность.
Так, у Платона мы читаем:
В души научившихся им они вселят забывчивость, так как будет лишена упражнения память: припоминать станут извне, доверяясь письму, по посторонним знакам, а не изнутри, сами собою. Стало быть, ты нашел средство не для памяти, а для припоминания. Ты даешь ученикам мнимую, а не истинную мудрость. Они у тебя будут многое знать понаслышке, без обучения, и будут казаться многознающими, оставаясь в большинстве невеждами, людьми трудными для общения; они станут мнимомудрыми вместо мудрых[29].
Через 25 веков после Платона нейробиолог из Ульма Манфред Шпитцер в газете Wochenblatt (18 августа 2012 года) заявил:
Цифровые медиа делают за нас умственную работу и освобождают нас от размышлений, подобно тому, как автомобиль освобождает нас от физической работы. Как нейробиолог, я знаю, что это совершенно точно не проходит бесследно для мозга. Подобно тому, как из-за пассивного образа жизни наше тело теперь зависит от пробежек и фитнес-центров, мозг как динамичный орган также разрушается при отсутствии нагрузки.
Google заставляет нас поверить, что в нем мы можем найти любую информацию. Но исследования показывают, что у человека, ищущего информацию с помощью Google, она сохраняется в мозгу с меньшей вероятностью, чем у того, кто ищет ее другими способами. Или, например, в случае с ориентацией на местности: мы перепоручаем ее навигатору в автомобиле – не стоит удивляться, что сами мы ориентируемся все хуже и хуже. То же самое касается дней рождения, телефонных номеров, ментальной арифметики или правописания. Если в мозгу происходит меньше событий, мы меньше учимся и мозговые извилины формируются хуже[30].
Платон и Шпитцер имеют схожие представления о влиянии техники: машина создается или техника изобретается, чтобы служить человеку и облегчить его труд. Но вскоре они оборачиваются против своего изобретателя. Они отбирают у своего создателя одну способность за другой, пока он не оказывается полностью подчинен им или даже уничтожен. Машина становится субъектом истории, а человек, в свою очередь, превращается в бездумную машину.
История