Агенты искусственного интеллекта на большие языковые модели (LLM) могут прекратить выдавать неправильные или странные результаты после решения проблемы критического забвения. Об этом соучредитель украинского ИИ-стартапа Assisterr Дмитрий Дименко рассказал во время Forbes AI Summit 27 ноября.
Купуйте річну передплату на шість журналів Forbes Ukraine за ціною трьох номерів. Якщо ви цінуєте якість, глибину та силу реального досвіду, ця передплата саме для вас. У період Black Friday діє знижка -30%: 1259 грн замість 1799 грн.
Подробности
- «ИИ мыслит контекстуально, но не умеет запоминать контекст на длинные дистанции. Это критическое забывание», – говорит соучредитель Assisterr Дмитрий Дименко.
- По его словам, именно эта проблема приводит к тому, что ответ на запрос пользователя оказывается неверным. Когда агенту или LLM дают слишком много контекста, где-то в середине решения проблемы ИИ забывает, что именно решает, объясняет Дименко. «На половине пути ИИ сворачивает, а затем возвращается к решению проблемы. В этот момент и появляются галлюцинации», – говорит он.
- «Как только это будет решено математическими инструментами, мы от этого избавимся. Когда это будет, нет ни малейшего представления», – говорит Дименко.
- Категория
- Рейтинги
- Дата
Контекст
По словам руководителя Microsoft в Украине и странах Балтии Леонида Полупана, пока ИИ-технологии несовершенны, важным фактором для работы с ними остается образование. «Важно, чтобы работники относились критически к ответам ИИ. ИИ обучают и на ложной информации: много российской пропаганды, китайского видения мира и т. п.», – говорит Полупан.
Второй важный шаг – постоянное дообучение собственных моделей ИИ, отмечает Полупан. «Берете модель, а затем направляете ее на свои данные. Благодаря дообучению вы можете контролировать и улучшать свою модель», – говорит он.
В заключение Полупан советует использовать ИИ-инструменты, учитывая их возможности. «Ассистенты созданы для простых задач. Не пытайтесь с помощью них, например, писать книги», – говорит он.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
