Агенти штучного інтелекту на великі мовні моделі (LLM) можуть припинити видавати неправильні або химерні результати після розв’язання проблеми критичного забуття. Про це співзасновник українського ШІ-стартапу Assisterr Дмитро Діменко розповів під час Forbes AI Summit 27 листопада.
Новий застосунок: вчасно про головне без чужих алгоритмів
Ми пропонуємо концентрат бізнес-знань за понад 40 напрямами. У застосунку зручно читати або слухати Forbes Ukraine у будь-яких умовах, навіть офлайн
Деталі
- «ШІ мислить контекстуально, але не вміє запамʼятовувати контекст на довгі дистанції. Це критичне забування», – каже співзасновник Assisterr Дмитро Діменко.
- За його словами, саме ця проблема призводить до того, що відповідь на запит користувача виявляється неправильною. Коли агенту чи LLM дають забагато контексту, десь посередині розв’язання проблеми ШІ забуває, що саме розвʼязує, пояснює Діменко. «На половині шляху ШІ звертає, а потім повертається до розв’язання проблеми. В цей момент і з’являються галюцинації», – говорить він.
- «Щойно це буде подолано математичними інструментами, ми цього позбавимося. Коли це буде, не маю жодної гадки», – каже Діменко.
Контекст
За словами керівника Microsoft в Україні та країнах Балтії Леоніда Полупана, поки ШІ-технології недосконалі, важливим фактором для роботи з ними залишається освіта. «Важливо, щоб працівники ставилися критично до відповідей ШІ. ШІ навчають і на хибній інформації: багато російської пропаганди, китайського бачення світу тощо», – каже Полупан.
Другий важливий крок – постійне донавчання власних моделей ШІ, наголошує Полупан. «Берете модель, а потім спрямовуєте її на свої дані. Завдяки донавчанню ви можете контролювати та поліпшувати свою модель», – каже він.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Насамкінець Полупан радить використовувати ШІ-інструменти, враховуючи їхні можливості. «Асистенти створені для простих завдань. Не намагайтеся за допомогою них, приміром, писати книги», – каже він.
