будет контролировать все стратегические сферы жизнеобеспечения на планете для пользы человечества. Но в программе случится сбой, что повлечёт катастрофические последствия. Искусственный интеллект сломается и начнёт неумышленно совершать действия, которые приведут к непоправимым последствиям для жизни на Земле.
3.Искусственному интеллекту для решения какой-либо сверхсложной задачи могут потребоваться все земные ресурсы. Жизнь на планете для людей станет невозможной.
4.Люди по каким-то причинам будут постоянно стремиться подчинить себе искусственный интеллект, бороться с ним, мешать его работе. В такой ситуации наиболее простым решением станет уничтожение человечества.
5.Искусственный интеллект примет ошибочное решение, ведущее к уничтожению людей «для их же блага». Например, переместит всех в «рай» или в вечно «счастливый» виртуальный мир.
6.Искусственный интеллект решит провести опасный физический эксперимент и допустит ошибку в расчётах, что вызовет необратимые последствия для жизни.
7.Внутри дружественного искусственного интеллекта появится враг, конкурент и уничтожит его, а затем и людей.
Из сказанного выше видно, что не исключен вариант, когда homo sapiens не впишется в те кардинальные изменения, которые будут происходить в мире.
Люди могут стать тормозами прогресса.
Когда искусственный интеллект обретёт сверхчеловеческое сознание, прогресс, управляемый столь мощным разумом, станет невероятно быстрым. Достаточно скоро наступит событие, которое Вернор Виндж4 назвал технологической сингулярностью.
В этот день мы перестанем быть самыми разумными существами на Земле. В мире воцарится новая реальность, очень далёкая от привычной нам. Это будет критическая точка развития цивилизации. Если человечество не сможет её преодолеть, то наш вид просто исчезнет с лица Земли.
Вероятно, уже в недалёком будущем нам придётся жить в одном мире с искусственными разумными существами. Мы находимся на пороге перемен, сопоставимых с появлением человека на Земле.
Как только искусственный интеллект достигнет уровня самосовершенствования, его дальнейшее развитие пойдёт очень быстро. По своим умственным возможностям он начнёт превосходить человека в миллионы раз.
Любопытно, что могущественный искусственный интеллект способен скрывать свое господство. Иначе говоря, может быть, он уже тайно управляет нами.
Глава 2. Постчеловеческое будущее
Многие тысячелетия назад, практически с начала верхнего палеолита, темп эволюции человека резко замедлился. Люди практически не менялись, менялись технологии. Похоже, что в XXI веке впервые кардинально изменится сам человек.
За последние 100 лет развитие нашей цивилизации неимоверно ускорилось. Десятки веков основным транспортным средством у людей была лошадь. И всего лишь за один век мы последовательно поменяли коня на автомобиль,