особенно остро в связи с проблемой потенциальной непрозрачности и непредсказуемости поведения сложных ИИ для их создателей.
Наконец, помимо экономической и политической трансформации, предстоящая революция несет с собой фундаментальные сдвиги в культуре, в самосознании человечества, в понимании природы разума и смысла существования. Уже сейчас развитие генеративного искусственного интеллекта, способного создавать тексты, изображения, музыку и видео, неотличимые от продуктов человеческого творчества, ставит под вопрос уникальность Homo Sapiens как вида. Если нейросеть может написать стихотворение или нарисовать картину ничуть не хуже профессионального поэта или художника – что тогда считать "искусством", а что "подделкой"? Является ли способность к оригинальному эстетическому самовыражению исключительно человеческим даром?
Еще глубже эти вопросы встают в связи с перспективой создания искусственного генерального интеллекта (AGI) и достижения технологической сингулярности. Если (или скорее когда) в ходе непрерывного самосовершенствования искусственный интеллект перейдет порог сложности и гибкости человеческого мозга, обретет способность к целеполаганию, самосознанию и творческой интуиции – сможем ли мы по-прежнему считать себя венцом эволюции и единственным носителем разума во Вселенной? Не превратится ли человечество в своего рода "младший разумный вид" на собственной планете, уступающий первенство в познании и преобразовании мира искусственным интеллектам? И сможем ли мы как-то контролировать ход и последствия эволюции ИИ после прохождения точки технологической сингулярности?
Наконец, самый фундаментальный вопрос – не разрушит ли искусственный интеллект сами основы нашего мировоззрения, в центре которого лежит представление об уникальности и самоценности человеческой личности? Готовы ли мы принять идею множественности форм существования разума и поставить знак равенства между естественным и искусственным интеллектом? Как должны строиться отношения между людьми и мыслящими машинами – по модели опеки, партнерства или, страшно сказать, подчинения высшим существам? От ответа на эти экзистенциальные вопросы во многом зависит облик человеческой цивилизации по ту сторону рубикона.
1.3.4. ИИ и сингулярность: сценарии и проблемы
Пожалуй, ни одна тема в дискуссиях об искусственном интеллекте не вызывает столько споров, страхов и надежд, как идея технологической сингулярности – гипотетической точки в будущем, за которой скорость и масштаб технологических изменений становятся настолько велики, что оказываются принципиально непредсказуемыми и неуправляемыми для человеческого разума. В самом общем виде сингулярность можно определить как переломный момент в истории цивилизации, когда развитие науки и технологий (прежде всего ИИ) достигает такого уровня, что дальнейшая эволюция человека и общества уже не может быть осмыслена в привычных нам терминах