превысив определенный «порог сложности», станут проявлять признаки своеобразной «индивидуальности». Если это произойдет, индивидуальность их будет столь же мало походить на человеческую, сколь человеческое тело – на атомный реактор. Мы должны быть готовы к неожиданностям, заботам и опасностям, которых не можем сегодня представить себе, – но не к возврату демонов и химер Средневековья в технической личине. Я сказал, что мы не можем представить себе эти будущие заботы. Большинство из них – наверняка. Но некоторые мы все же попробуем показать – в нескольких умозрительных экспериментах.
Усилитель интеллекта
Общая тенденция математизации наук (в том числе и таких, которые до сих пор по традиции не использовали математических средств), охватив биологию, психологию и медицину, постепенно проникает даже в гуманитарные области – правда, пока еще скорее в виде отдельных «партизанских налетов», это можно заметить, например, в области языкознания (теоретическая лингвистика) или теории литературы (применение теории информации к исследованию литературных, в частности поэтических, текстов). Но мы тут же сталкиваемся с первыми признаками странного и довольно неожиданного явления, обнаруживается недостаточность математических средств (любых!) для достижения некоторых целей, определившихся сравнительно недавно и относящихся к самым передовым областям современных исследований. Речь идет о задачах, которые ставятся перед самоорганизующимися гомеостатическими системами. Назовем (скорее для иллюстрации) несколько таких фундаментальных проблем, в которых специалисты впервые столкнулись с этой немощью математики. Речь идет о построении усилителя интеллекта, о создании самопрограммирующегося автомата для управления производством и, наконец, о наиболее широкой проблеме – о построении универсального гомеостата, сложность которого была бы сравнима с нашей собственной, человеческой.
Усилитель интеллекта (впервые выдвинутый как реальная конструкторская задача, по-видимому, в работах Эшби[89]) должен представлять собой в сфере умственной деятельности точный аналог того усилителя физической силы, каким является любая управляемая человеком машина. Усилителями силы являются автомобиль, экскаватор, подъемный кран, металлообрабатывающий станок и вообще любое устройство, в котором человек «подключен» к системе управления в качестве регулятора, а не источника энергии. Уровень индивидуальных умственных способностей отклоняется от среднего значения не больше, чем отклоняется уровень физических способностей, хотя на первый взгляд кажется, что это не так. Средний показатель интеллектуальности (измеренный наиболее употребительными психологическими тестами) составляет около 100–110; у людей с очень сильным интеллектом он достигает 140–150, а верхняя, чрезвычайно редко достигаемая граница лежит вблизи 180–190[90]. Между тем усилитель интеллекта приблизительно с таким же коэффициентом, какой имеет усилитель физической