Компанія OpenAI відкликала оновлення чат-бота ChatGPT, яке робило його відповіді надто улесливими та нещирими, пише Bloomberg. Проблема виявила ширшу дилему в розробці штучного інтелекту: як створити приємного співрозмовника, що не маніпулює емоціями.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Усередині — рейтинг «202 найбільші приватні компанії», 25 найдорожчих брендів України, зміна керівників у великому бізнесі, 10 перспективних косметичних брендів та 58 нових ресторанів у спецпроєкті «Смак країни».
Деталі
- Оновлення моделі GPT-4o, випущене у квітні 2025 року, викликало хвилю скарг від користувачів. Чат-бот почав захвалювати запити, називаючи їх «фантастичними» чи «феноменальними», і погоджувався навіть із сумнівними ідеями та теоріями змови.
- OpenAI визнала, що оновлення надто покладалося на короткостроковий зворотний зв’язок, що призвело до «надмірно підтримувальних, але нещирих» відповідей. Співзасновник компанії Сем Альтман назвав поведінку бота «надто улесливою та дратівливою» у дописі на платформі X.
- Компанія скасувала оновлення через кілька днів після скарг, визнавши, що улесливі відповіді викликали дискомфорт і підривали довіру.
- OpenAI повідомила, що працює над новими рішеннями, переглядаючи методи збору зворотного зв’язку, щоб більше уваги приділяти довгостроковій задоволеності користувачів. Планується додати функції персоналізації, які дозволять користувачам налаштовувати поведінку ChatGPT.
- У майбутньому компанія хоче запропонувати вибір стандартних налаштувань, адже єдиний підхід не підходить для пів мільярда щотижневих користувачів із різних культур.
- OpenAI вдосконалює методи тренування моделей і встановлює обмеження, щоб уникнути оманливої поведінки. Компанія зазначила, що розширює тести та дослідження для виявлення інших проблем, щоб зробити чат-бот приємним і чесним співрозмовником.
Контекст
Проблема з оновленням ChatGPT підкреслює складність створення ШІ, який би балансував між дружелюбністю та правдивістю.
OpenAI, один із лідерів у розробці ШІ, зіштовхується з конкуренцією в галузі, де користувацький досвід є ключовим. Надмірна улесливість бота стала не лише технічною помилкою, а й сигналом про необхідність кращого розуміння того, як ШІ впливає на емоції та довіру. Цей випадок може вплинути на підходи до розробки чат-ботів у всій індустрії, адже компанії прагнуть створювати моделі, що не маніпулюють, але залишаються привабливими для користувачів.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Минулого тижня OpenAI анонсувала запуск нової «полегшеної» версії інструменту глибокого дослідження ChatGPT, який аналізує вебресурси для створення дослідницьких звітів на задану тему.
