Агенти штучного інтелекту на великі мовні моделі (LLM) можуть припинити видавати неправильні або химерні результати після розв’язання проблеми критичного забуття. Про це співзасновник українського ШІ-стартапу Assisterr Дмитро Діменко розповів під час Forbes AI Summit 27 листопада.
Купуйте річну передплату на шість журналів Forbes Ukraine за ціною трьох номерів. Якщо ви цінуєте якість, глибину та силу реального досвіду, ця передплата саме для вас. У період Black Friday діє знижка -30%: 1259 грн замість 1799 грн.
Деталі
- «ШІ мислить контекстуально, але не вміє запамʼятовувати контекст на довгі дистанції. Це критичне забування», – каже співзасновник Assisterr Дмитро Діменко.
- За його словами, саме ця проблема призводить до того, що відповідь на запит користувача виявляється неправильною. Коли агенту чи LLM дають забагато контексту, десь посередині розв’язання проблеми ШІ забуває, що саме розвʼязує, пояснює Діменко. «На половині шляху ШІ звертає, а потім повертається до розв’язання проблеми. В цей момент і з’являються галюцинації», – говорить він.
- «Щойно це буде подолано математичними інструментами, ми цього позбавимося. Коли це буде, не маю жодної гадки», – каже Діменко.
- Категорія
- Рейтинги
- Дата
Контекст
За словами керівника Microsoft в Україні та країнах Балтії Леоніда Полупана, поки ШІ-технології недосконалі, важливим фактором для роботи з ними залишається освіта. «Важливо, щоб працівники ставилися критично до відповідей ШІ. ШІ навчають і на хибній інформації: багато російської пропаганди, китайського бачення світу тощо», – каже Полупан.
Другий важливий крок – постійне донавчання власних моделей ШІ, наголошує Полупан. «Берете модель, а потім спрямовуєте її на свої дані. Завдяки донавчанню ви можете контролювати та поліпшувати свою модель», – каже він.
Насамкінець Полупан радить використовувати ШІ-інструменти, враховуючи їхні можливості. «Асистенти створені для простих завдань. Не намагайтеся за допомогою них, приміром, писати книги», – каже він.
Ви знайшли помилку чи неточність?
Залиште відгук для редакції. Ми врахуємо ваші зауваження якнайшвидше.
