хищников. От болезней ее спасают антибиотики. Живет ли она лучше, чем ее дикие предки? Ведет ли она достойную жизнь? Свинья такими вопросами не задается, поскольку не знает иного. Если распахнуть калитку загона, она не покинет его. Свобода свинью пугает. Она слишком долго жила в зависимости от тех, кто ее откармливал, стала слишком жирной, слишком безвольной, слишком тупой, чтобы вести независимую жизнь.
Техника – это подслащенный яд. Она дарит нам комфорт и отнимает волю. Она развлекает нас, чтобы нам всегда было приятно и не хотелось думать о том, что на самом деле важно. Она предоставляет нам виртуальную дружбу, чтобы мы не замечали, насколько действительно одиноки. Она думает за нас, и мы перестаем думать сами. Мы считаем, что программируем компьютеры, однако на самом деле это они программируют нас, нашептывают на ухо, что нельзя отставать от новинок, заставляют нас выстраиваться в очереди за новейшими Xphone, Ypad или Zbox, чтобы лишь усилить свою зависимость от них.
Очнитесь! Скажите «нет» этому наркотику! Пока не поздно. Машины еще подконтрольны нам. Но как долго это будет продолжаться?
Единицы уже очнулись. Среди них – Теодор Качинский, блестящий математик с IQ, равным 170, который еще в семидесятых годах раскрыл правду и решил единолично вести борьбу с научной элитой. В 1996 году его арестовали, объявили сумасшедшим и приговорили к пожизненному заключению. В своем манифесте Качинский писал:
«Для начала предположим, что программистам удастся создать интеллектуальные машины, которые умеют все делать лучше человека. В таком случае следует предположить, что вся работа будет осуществляться сложнейшими, высокоорганизованными техническими системами, и человеческий труд перестанет быть необходимым. Тогда наступит один из двух вариантов развития событий: машинам будет доверено принимать решения без вмешательства человека или же контроль над ними со стороны человека сохранится.
Если машинам позволят принимать решения самостоятельно, то мы не можем предсказать, что произойдет в результате, поскольку невозможно предвидеть, как поведут себя такие машины. Мы лишь заметим, что судьба человечества станет зависеть от милости машин.
Можно было бы возразить, что люди никогда не поглупеют настолько, чтобы передать власть машинам. Мы не утверждаем ни то, что люди сделают это добровольно, ни то, что машины силой вырвут власть у людей. Однако человечество может легко впасть в такую зависимость, в которой не останется иной альтернативы, кроме как соглашаться со всем, что решат машины. По мере того как общество и его проблемы будут все больше усложняться, а машины становиться все умнее, люди будут все чаще передавать машинам принятие решений только лишь потому, что их решения будут давать лучшие результаты, чем решения, принятые человеком.
В итоге может наступить такая фаза развития, на которой принимать решения, необходимые для продолжения функционирования системы, станет настолько сложно, что человек перестанет справляться с этой задачей. К этому моменту машины