Агенты искусственного интеллекта на большие языковые модели (LLM) могут прекратить выдавать неправильные или странные результаты после решения проблемы критического забвения. Об этом соучредитель украинского ИИ-стартапа Assisterr Дмитрий Дименко рассказал во время Forbes AI Summit 27 ноября.
Журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Подробности
- «ИИ мыслит контекстуально, но не умеет запоминать контекст на длинные дистанции. Это критическое забывание», – говорит соучредитель Assisterr Дмитрий Дименко.
- По его словам, именно эта проблема приводит к тому, что ответ на запрос пользователя оказывается неверным. Когда агенту или LLM дают слишком много контекста, где-то в середине решения проблемы ИИ забывает, что именно решает, объясняет Дименко. «На половине пути ИИ сворачивает, а затем возвращается к решению проблемы. В этот момент и появляются галлюцинации», – говорит он.
- «Как только это будет решено математическими инструментами, мы от этого избавимся. Когда это будет, нет ни малейшего представления», – говорит Дименко.
Контекст
По словам руководителя Microsoft в Украине и странах Балтии Леонида Полупана, пока ИИ-технологии несовершенны, важным фактором для работы с ними остается образование. «Важно, чтобы работники относились критически к ответам ИИ. ИИ обучают и на ложной информации: много российской пропаганды, китайского видения мира и т. п.», – говорит Полупан.
Второй важный шаг – постоянное дообучение собственных моделей ИИ, отмечает Полупан. «Берете модель, а затем направляете ее на свои данные. Благодаря дообучению вы можете контролировать и улучшать свою модель», – говорит он.
В заключение Полупан советует использовать ИИ-инструменты, учитывая их возможности. «Ассистенты созданы для простых задач. Не пытайтесь с помощью них, например, писать книги», – говорит он.
