ИИ: искусственного интеллекта, превосходящего умнейших представителей человечества во всех отношениях, включая логические рассуждения и социальные навыки. Сверхразум будет способен уничтожить нас, утверждают они. В противоположность этому Рэй Курцвейл – футурист, занимающий в настоящее время должность технического директора в компании Google, рисует технологическую утопию, которая принесет с собой конец старению, болезням, бедности и недостатку ресурсов. Курцвейл говорит даже о потенциальных достоинствах дружбы с персонализированными ИИ-системами вроде программы «Саманта» из фильма «Она».
Сингулярность
Курцвейл и другие трансгуманисты сходятся в том, что мы быстро приближаемся к «технологической сингулярности» – точке, где ИИ намного превзойдет человеческий разум и сможет решать задачи, которые мы прежде были не в состоянии решить, с непредсказуемыми последствиями для цивилизации и человеческой природы.
Понятие сингулярности проистекает из математики и физики, в первую очередь из концепции черной дыры. Черные дыры – это «сингулярные» объекты в пространстве и времени, места, где нормальные физические законы рушатся и не работают. По аналогии, технологическая сингулярность должна привести к неуправляемому техническому развитию и вызвать принципиальные изменения в цивилизации. Правила, по которым человечество жило тысячи лет, внезапно перестанут действовать. Ситуация станет непредсказуемой.
Технологические изменения могут оказаться не настолько стремительными, чтобы породить полномасштабную сингулярность, при которой мир меняется чуть ли не в одночасье. Но это не должно отвлекать нас от более серьезного момента: осознания того, что уже в XXI веке мы, вполне возможно, перестанем быть самыми разумными существами на планете. В будущем лучшими станут умы искусственные.
Мне кажется, мы уже видим причины, по которым искусственный интеллект превзойдет нас во всем. Даже сейчас микрочипы действуют быстрее, чем нейроны. Сегодня, когда я пишу эту главу, самым быстрым в мире является суперкомпьютер Summit в Окриджской национальной лаборатории в штате Теннесси. Его производительность составляет 200 петафлопс, т. е. 200 миллионов миллиардов операций в секунду. То, что Summit делает в мгновение ока, заняло бы всех людей на Земле, производящих по одной вычислительной операции в минуту в течение всего дня, на 305 суток[9].
Разумеется, скорость – это еще не все. Если за мерило взять не арифметические расчеты, то окажется, что ваш мозг обладает куда большей вычислительной мощностью, чем Summit. Ваш мозг – продукт 3,8 млрд лет эволюции (именно во столько оценивается возраст жизни на нашей планете), и его мощь направлена на распознавание закономерностей, быстрое обучение и другие практические задачи выживания[10]. Индивидуальные нейроны, возможно, работают медленно, но они организованы в многократно запараллеленную структуру, которая до сих пор оставляет современные системы ИИ далеко позади. Но ИИ обладает почти неограниченной