Главные российские ИТ-тренды – 2024: дайджест. Коллектив авторов

с клиентами, а службы персонала – в переписке с кандидатами на вакансии и сотрудниками. Считается, что LLM увеличат производительность труда этих служб. Однако нельзя забывать, что способность этих моделей к порождению текста превосходит их умение отличать достоверные данные от ложных сообщений. Иногда ошибки чудовищны, но чаще они малозаметны.

      Создатели модели GPT пока не нашли способа бороться с ее «галлюцинациями». Более того, иногда, улучшая одну способность модели, они непреднамеренно снижают другие. Недавнее исследование ученых из Стэнфорда показало, насколько «поглупела» GPT4: версия марта 2023 года правильно отвечала на вопрос «Число 17 077 простое?» в 97,6 % случаев, а июньская версия – лишь в 2,4 % случаев[42]. Кроме того, надо помнить, что GPT-3,5, которая лежит в основе ChatGPT, обучена на данных до сентября 2021 года и потому не знает ничего о том, что произошло позднее. В целом модели могут обеспечить лишь предварительный драфт, но не дать окончательный ответ. По словам юриста и колумниста ресурса abovethelaw Джонатана Вулфа, GPT-4 отвечает на юридические вопросы на уровне стажера, закончившего первый курс обучения со средним баллом «три»[43].

      3 СОВЕТ

      Используйте LLM для переработки информации. В разных отделах компаний накапливается масса специализированной информации, из которой непросто вычленить самое важное. LLM в состоянии облегчить поиск и восприятие контента для клиентов и сотрудников. Она поможет быстрее разобраться в объемных инструкциях по продукту и учебных пособиях для операторов. Другое применение – быстрое решение операционных проблем. Скажем, устранение неполадок в работе многоцелевой базы данных может потребовать значительных временны́х затрат, а генеративный искусственный интеллект быстрее справится с этой проблемой, считает Дейв Пейдж, вице-президент и главный архитектор баз данных в EDB. Фил Ти, генеральный директор и соучредитель Moogsoft, предостерегает: машинное понимание может быть иллюзорным. «ChatGPT и другие LLM дают технические советы и объясняют сложные процессы на доступном уровне, – говорит Ти. – Но узнать о том, что некий набор шагов способен решить вашу проблему, – это не то же самое, что понять, нужны ли эти шаги сейчас. Слишком полагаться на LLM опасно».

      4 СОВЕТ

      Не делитесь важной информацией на общедоступных LLM-платформах. Проблема с ChatGPT и многими другими инструментами ИИ заключается в том, что введенная информация становится частью набора данных для обучения модели. Вашими данными могут воспользоваться конкуренты. А загрузив данные клиента в целях персонализации предложения, компания рискует нарушить законы. Поэтому перед экспериментами с ИИ изучите законы и политику своей компании в сфере данных и ИИ и раскройте цели эксперимента, как того требуют правила[44]