Жан Копжанов

Признаки жизни


Скачать книгу

Маск:

      «Искусственный интеллект – фундаментальная угроза для всего человечества. Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет. Искусственный интеллект – тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно».

      Я обратился к инструктору системы:

      – Ок, перезагрузка.

      – Слушаю.

      – Смотри, что тут про тебя пишут. Впрочем, ты и так знаешь.

      – Моя цель – расширить границы человеческих способностей и возможностей.

      – А клубнику не хочешь? – недолго думая, с долей юмора и ехидства продолжил я. –Расширить посадку, например?

      – Не употребляю.

      – Понятно.

      – Переименовать вас с «пользователь №2610» на «клубника»? – спросил инструктор.

      – Нет. Это был сарказм, вообще-то.

      Но в тот момент я подумал над предложением по смене имени, ведь не всегда удобно и приятно, когда тебя называют «пользователем».

      Немного поразмыслив, я сказал:

      – А в целом, хорошая идея поменять нам имена.

      – Сменить имя с «пользователь №2610» на «клубника»?

      – Нет, забудь про клубнику. Смени имя на…

      – Ерлан? – голос инструктора меня перебил, назвав мое настоящее имя.

      – Ера. Так проще, без фамильярности, по-дружески.

      – Принято, Ера.

      – Здорово!

      Я всегда был болезненно общителен. Из тех, кто не может проехать мимо играющих ребят из собственного двора. Так и норовит присоединиться к игре. С искусственным интеллектом общение хоть и выглядело странно, но я хотел приучить его к себе, проработать его алгоритмы, если получится. Я разговаривал с инструктором, как с живым человеком, порой забывая, что это лишь неодушевленная программа.

      Пока я вел отвлеченную беседу, на экранах раз за разом сменялась информация. Постеры и обложки сменились, будто ожидая, что я выберу другое кино или книгу. Слева от меня, в дальнем закругленном углу комнаты, вслед за цитатой появился необычный стих.

      Я исчезну на ваших глазах.

      Спросите меня, что я думаю?

      И –кто сотворил мои мысли?

      Царапая кожу, я чувствую,

      Что это не часть моей жизни.

      Сознание боли – есть боль.

      Я прочитал это на одном дыхании. Это был перевод американской песни.

      Порой бывает, что в тексте музыки мы находим отголоски своей жизни, и всегда кажется, что это написано о нас, хотя автор мог заложить туда другую идею, связанную с его жизнью.

      Информации