то, «что мы называем душой». Они полагали, что накопление суммы знаний и умений рано или поздно приведет к самоосознанию машины, к появлению у машины личности.
Нет. Они ошибались. Ни у какой из мировых библиотек не появилось личности, сколько бы знаний не напихивали в её стены. Никакой компьютер, включая и «Дип Рэд», так и не сумел осознать самое себя, понять, что он делает и понять, зачем он это делает.
«Дип Рэд», который правит миром по программе Копаньского, всего лишь выполняет заложенные в него когда-то команды, запаянные в повторяющийся цикл. Это как старинная плёнка на автореверсе: промотало её – и по новой, то же самое, и до бесконечности, до порчи практически автономного блока питания на «К-2Z»…
Так работает часовой механизм: шестеренки крутятся, анкер сдерживает, пружина тянет – но не шестерёнки, ни анкер, ни пружина не производят движения по собственной воле. У них таковой нет. Они мертвые исполнители, повинующиеся законам природы и разуму своего создателя.
Мне приходилось общаться с «Дип Рэд» в «он-лайновом» режиме, и, должен признаться, вначале он пугающе-самостоятельно мыслит. Ты можешь очень долго говорить с ним, ощущая себя собеседником Сократа, Конфуция, Эйнштейна – прежде чем поймешь, что он просто старательно зазубрил всего Сократа, Конфуция, Эйнштейна и при беседе с тобой по заранее заданному лгоритму подбирает «варианты ответов».
Вариантов очень много. Отбор идет с немыслимой для человека, молнеиносной быстротой. Нюансы тончайшие. И все-таки достаточно умный человек может запросто поймать «Дип Рэд», элементарно подведя его к краю алгоритмирования. Здесь «Дип Рэд» забуксует. Перестанет отвечать. У него есть контур предела, которого у живой и мыслящей души нет.
В свое время Азимов полагал, что робот не сможет превратить кусок холста в шедевр. Что он не сможет написать симфонию. Это все заблуждение – «Дип Рэд» творил и шедевры и симфонии, и все, что угодно. Просто компилировал заложенный в него колоссальный объем информации, брал чёрточку от Рафаэля, черточку от Микеланджело, черточку от Врубеля, и творил такое, отчего все искусствоведы ахали.
Они ведь дураки, искусствоведы. Не все, но большинство. Они думают, что человек совершенен совершенством. На самом деле человек совершенен несовершенством, свой способностью делать «ошибки в программе», своей способностью не выполнять заложенные в команду приказы.
А «Дип Рэд», творец шедевров и тонкий психоаналитик, казалось бы, знающий о человеческой душе всё возможное – не может ничего изменить, кроме того, что меняется в рамках заложенной программы. Он будет исполнять команду до тех пор, пока кто-то не нажмет клавишу «отмена», или не перепрограммирует его.
Прошло 22 года после «техноапокалипсиса». 22 года я, бывший чиновник средней руки, являюсь бродягой мертвого света в «прекрасном новом мире». Здесь люди, оставшиеся в живых, очень сильно изменились. В худшую сторону, но изменились.
А роботы –