Маск:
«Искусственный интеллект – фундаментальная угроза для всего человечества. Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет. Искусственный интеллект – тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно».
Я обратился к инструктору системы:
– Ок, перезагрузка.
– Слушаю.
– Смотри, что тут про тебя пишут. Впрочем, ты и так знаешь.
– Моя цель – расширить границы человеческих способностей и возможностей.
– А клубнику не хочешь? – недолго думая, с долей юмора и ехидства продолжил я. –Расширить посадку, например?
– Не употребляю.
– Понятно.
– Переименовать вас с «пользователь №2610» на «клубника»? – спросил инструктор.
– Нет. Это был сарказм, вообще-то.
Но в тот момент я подумал над предложением по смене имени, ведь не всегда удобно и приятно, когда тебя называют «пользователем».
Немного поразмыслив, я сказал:
– А в целом, хорошая идея поменять нам имена.
– Сменить имя с «пользователь №2610» на «клубника»?
– Нет, забудь про клубнику. Смени имя на…
– Ерлан? – голос инструктора меня перебил, назвав мое настоящее имя.
– Ера. Так проще, без фамильярности, по-дружески.
– Принято, Ера.
– Здорово!
Я всегда был болезненно общителен. Из тех, кто не может проехать мимо играющих ребят из собственного двора. Так и норовит присоединиться к игре. С искусственным интеллектом общение хоть и выглядело странно, но я хотел приучить его к себе, проработать его алгоритмы, если получится. Я разговаривал с инструктором, как с живым человеком, порой забывая, что это лишь неодушевленная программа.
Пока я вел отвлеченную беседу, на экранах раз за разом сменялась информация. Постеры и обложки сменились, будто ожидая, что я выберу другое кино или книгу. Слева от меня, в дальнем закругленном углу комнаты, вслед за цитатой появился необычный стих.
Я исчезну на ваших глазах.
Спросите меня, что я думаю?
И –кто сотворил мои мысли?
Царапая кожу, я чувствую,
Что это не часть моей жизни.
Сознание боли – есть боль.
Я прочитал это на одном дыхании. Это был перевод американской песни.
Порой бывает, что в тексте музыки мы находим отголоски своей жизни, и всегда кажется, что это написано о нас, хотя автор мог заложить туда другую идею, связанную с его жизнью.
Информации