И если его не избежать, можно ли направить его так, чтобы мы смогли его пережить?6
Нам становится ясным, что будущее отношений между людьми и машинами зависит в первую очередь от экономической системы, которая их порождает. Мы сталкиваемся с тем, что я называю вызовами ХелВен[12]. Так, мы на полной скорости приближаемся к миру, похожему на нирвану, где нам уже не нужно зарабатывать на жизнь, где все проблемы решены с помощью технологий и где мы можем наслаждаться изобилием всего – что иногда называется экономикой Звездного пути7.
Или же, напротив, мы можем оказаться в мире антиутопии, где над обществом установлен контроль суперкомпьютеров, интернет-ботов, суперумных программ слежения – машин и алгоритмов, киборгов и роботов, а точнее, их владельцев. В мире, где людей будут терпеть в лучшем случае только в качестве домашних животных или как какие-то необходимые помехи, а в худшем – новые кибербоги обратят нас в рабство. Это темное общество будет представлять собой бесчувственный, бездушный и бестелесный мир, то есть мир, в котором все человеческие свойства будут утрачены.
Ты можешь дожить до того, что ужасы дел рук человеческих, которым ты будешь свидетелем, выйдут за границу твоего понимания.
Задумайтесь о том, что уже стало частью повседневности: доступные за небольшую цену цифровые сервисы позволяют нам перепоручать наше мышление, решения и воспоминания все дешевеющим мобильным устройствам и их облачным хранилищам. Эти «внешние мозги» очень быстро наращивают функционал: от знания-меня и представления-меня до бытия-мной. Они уже стали не чем иным, как нашей цифровой копией, и если это по-прежнему вас не смущает, то только представьте, как мощность этих «внешних мозгов» увеличивается в сотни раз в течение следующих пяти лет.
Нужно найти дорогу в незнакомом городе? Не обойтись без карт Google. Сомневаетесь, куда пойти обедать? TripAdvisor подскажет. Некогда ответить на электронные письма? Новый умный помощник от Gmail все сделает сам9. Разумеется, человечество еще не дошло до той стадии сближения с машинами, когда всем можно оставаться дома, пока двойники-киборги проживают жизнь за нас, как в фильме Брюса Уиллиса «Суррогаты»10. Также мы пока не можем осуществить сценарий из сериала 2015 года «Люди», где можно было приобретать многофункциональных человекоподобных компаньонов-синтов11. Но на самом деле мы недалеки от этого.
В этой книге я постараюсь объяснить, почему антиутопическая картина будущего представляется мне маловероятной. Вместе с тем я берусь утверждать, что степень влияния технологий на нашу жизнь и жизнь будущих поколений всецело обусловлена нашим собственным выбором.
Три важных слова пришли мне на ум, пока я писал книгу: экспоненциальный, комбинаторный и рекурсивный.
1. Экспоненциальный.