относительно большое количество правил поведения даже в небольшом количестве особых ситуаций. Допустим, нужно запрограммировать робота, чтобы он ориентировался в метро. На первый взгляд, задача относительно проста. Однако очень скоро выясняется: даже один-единственный компонент этой задачи – как, скажем, «правило», запрещающее просить других пассажиров уступить свое место, – зависит от сложного множества других правил, вроде бы не имеющих к нему ни малейшего отношения. Это, например, принципы распределения мест в вагоне или вежливого поведения в общественных местах. Это правила жизни в многолюдных городах. Это общие нормы вежливости и любезности, справедливости и собственности.
Все попытки формализовать обыденные знания неизбежно наталкивались на тот или иной вариант вышеизложенной проблемы: чтобы научить робота имитировать даже ограниченный диапазон человеческого поведения, приходится, в некотором смысле, учить его всему. В противном случае бесчисленные тонкие различия между тем, что важно, что должно быть важно, но не важно и что может стать важным в зависимости от обстоятельств, всегда будут сбивать с толку даже самого совершенного робота. Стоит ему попасть в ситуацию, лишь самую малость отличающуюся от запрограммированных, как бедняга потеряет всякое представление о том, как себя вести. Он будет явно отличаться от остальных роботов. И всегда ошибаться18.
Люди, которым не хватает здравого смысла, чем-то похожи на незадачливого робота. Они не понимают, на чем следует сосредотачивать внимание, – это раз. И не понимают, чего конкретно они не понимают, – это два. По той же самой причине, по которой программирование роботов представляет собой крайне непростую задачу, удивительно сложно объяснить лишенному здравого смысла человеку, что именно он делает не так. Приведите ему множество примеров того, что он сказал и сделал неправильно, – и, вероятно, ему удастся избежать повторения данных конкретных ошибок в будущем. Но как только ситуация изменится, все вернется на круги своя. В Академии у нас было несколько таких курсантов: исключительно умные, компетентные ребята, которые никак не могли сообразить, как играть в нашу общую игру. Все знали, кто они такие, и все видели, что они чего-то не понимают. Увы, не зная, в чем загвоздка, мы не могли им помочь – и большинство из них, растерянные и ошеломленные, в итоге покинули военную службу.
У каждого свой
Как ни странно, здравому смыслу присущи кое-какие любопытные особенности. Одной из наиболее примечательных является его разительное изменение в зависимости от эпохи и культуры. Несколько лет назад, например, предприимчивая группа экономистов и антропологов решила проверить, как представители различных культур играют в так называемую игру-ультиматум. Идея заключается в следующем. Из двух человек один получает 100 долларов, которые затем должен разделить со вторым участником – причем может отдать всю сумму, предложить любую ее часть или не дать вообще