развитием механики и с накоплением практического опыта форма машины начинает всецело определяться принципами механики и потому совершенно освобождается от старинной формы того орудия, которое превращается в машину».
Аналогично, наивно предполагать, что AGI, способный обрабатывать информацию с той же эффективностью, что и человек, станет работать по принципу «махания крыльев», или заложенных алгоритмов. Безусловно, AGI окажется сложным симбиозом технологий, но далеко не факт, что он будет состоять из понятных нам алгоритмов и нейронных сетей – возможно (даже скорее всего), при его создании будут использоваться принципиально новые подходы. Но он точно сможет самообучаться, современные методики обучения ИИ подразумевают в том числе обучение по принципу «что хорошо, а что плохо». Да, пока это не означает, что наш человек в комнате сможет выучить китайский по просовываемым ему под дверь иероглифам. Но представьте на секунду, что в комнате стоит огромная плазменная панель. И каждый раз, когда под дверь просовывается листок с иероглифами, на телевизоре включается видеоролик, подробно описывающий значение фразы, иллюстрирующий объект, описываемый иероглифами, и его связи с другими объектами – и все это на всех языках мира, в том числе на китайском. У человека в комнате нулевые знания, но фотографическая память, он ничего не забывает, его нейронные сети постоянно адаптируются под получаемую информацию, а время не имеет значения. При правильно построенном обучении человек в комнате со временем (речь о сотнях тысяч человеческих лет, но для машины это могут быть всего лишь часы) сможет отвечать на любой вопрос не хуже всех людей, которые помогали ему учиться. Просто потому, что машину перестанут учить махать крыльями, как птица, а снабдят планером с мотором. Пример немного утрированный, но ничего невозможного в нем нет.
Вторая проблема заключается в самом понимании принципа сознания. Мы, люди, безусловно, считаем себя венцом природы, а свой мозг – абсолютной загадкой. Во многом это правда, о чем мы поговорим в следующей главе, но с точки зрения машинного обучения мы мало чем отличаемся от индивидуума в «китайской комнате». Раз человек может обучаться, почему бы и машинам не научиться учиться, как мы? Когда человеческий детеныш появляется на свет, он не владеет ни китайским, ни английским, ни русским, не понимает значения слова «красный» и словосочетания «сборная Германии». Он не в курсе, что такое «горячо» или «холодно» и уж точно не знает принципа неопределенности Гейзенберга. Но… он учится. Ребенок несколько лет получает огромное количество информации на вход (листки с иероглифами под дверью), а со стороны родителей и взрослых в целом, равно как и от собственной нервной системы, – подкрепление информации (условную маркировку): если он обжегся и ему больно, он запоминает, что открытый огонь небезопасен. Упал, ушибся, порезался – больно; значит, все, что к этому привело, небезопасно. Если мама говорит, что лезть ножницами в розетку небезопасно,