Компания OpenAI отозвала обновление чат-бота ChatGPT, которое делало его ответы слишком льстивыми и неискренними, пишет Bloomberg. Проблема выявила более широкую дилемму в разработке искусственного интеллекта: как создать приятного собеседника, не манипулирующего эмоциями.
Новое приложение: вовремя о главном без чужих алгоритмов
Мы предлагаем концентрат бизнес-знаний по более чем 40 направлениям. В приложении удобно читать или слушать Forbes Ukraine в любых условиях, даже офлайн
Подробности
- Обновление модели GPT-4o, выпущенное в апреле 2025 г., вызвало волну жалоб от пользователей. Чат-бот начал одобрять запросы, называя их «фантастическими» или «феноменальными», и соглашался даже с сомнительными идеями и теориями заговора.
- OpenAI признала, что обновление слишком полагалось на краткосрочную обратную связь, что привело к «чрезмерно поддерживающим, но неискренним» ответам. Соучредитель компании Сэм Альтман назвал поведение бота «слишком льстивым и раздражительным» в сообщении на платформе X.
- Компания отменила обновление через несколько дней после жалоб, признав, что льстивые ответы вызвали дискомфорт и подрывали доверие.
- OpenAI сообщила, что работает над новыми решениями, просматривая методы сбора обратной связи, чтобы больше внимания уделять долгосрочной удовлетворенности пользователей. Планируется добавить функции персонализации, позволяющие пользователям настраивать поведение ChatGPT.
- В будущем компания хочет предложить выбор стандартных настроек, ведь единый подход не подходит для полмиллиарда еженедельных пользователей из разных культур.
- OpenAI усовершенствует методы тренировки моделей и устанавливает ограничения, чтобы избежать обманчивого поведения. Компания отметила, что расширяет тесты и исследования для выявления других проблем, чтобы сделать чат-бот приятным и честным собеседником.
Контекст
Проблема с обновлением ChatGPT подчеркивает сложность создания ИИ, балансирующего между дружелюбием и правдивостью.
OpenAI, один из лидеров в разработке ИИ, сталкивается с конкуренцией в отрасли, где пользовательский опыт является ключевым. Чрезмерная льстивость бота стала не только технической ошибкой, но и сигналом о необходимости лучшего понимания того, как ИИ влияет на эмоции и доверие. Этот случай может повлиять на подходы к разработке чат-ботов во всей индустрии, ведь компании стремятся создавать модели, которые не манипулируют, но остаются привлекательными для пользователей.
Журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
На прошлой неделе OpenAI анонсировала запуск новой облегченной версии инструмента глубокого исследования ChatGPT, который анализирует веб-ресурсы для создания исследовательских отчетов на тему.
