Компания OpenAI отозвала обновление чат-бота ChatGPT, которое делало его ответы слишком льстивыми и неискренними, пишет Bloomberg. Проблема выявила более широкую дилемму в разработке искусственного интеллекта: как создать приятного собеседника, не манипулирующего эмоциями.
Подарунок для справжніх лідерок та лідерів
Сертифікат Forbes — 365 днів доступу до якісної аналітики, інсайтів та історій успіху, що змінюють мислення. Купуйте зараз
Подробности
- Обновление модели GPT-4o, выпущенное в апреле 2025 г., вызвало волну жалоб от пользователей. Чат-бот начал одобрять запросы, называя их «фантастическими» или «феноменальными», и соглашался даже с сомнительными идеями и теориями заговора.
- OpenAI признала, что обновление слишком полагалось на краткосрочную обратную связь, что привело к «чрезмерно поддерживающим, но неискренним» ответам. Соучредитель компании Сэм Альтман назвал поведение бота «слишком льстивым и раздражительным» в сообщении на платформе X.
- Компания отменила обновление через несколько дней после жалоб, признав, что льстивые ответы вызвали дискомфорт и подрывали доверие.
- OpenAI сообщила, что работает над новыми решениями, просматривая методы сбора обратной связи, чтобы больше внимания уделять долгосрочной удовлетворенности пользователей. Планируется добавить функции персонализации, позволяющие пользователям настраивать поведение ChatGPT.
- В будущем компания хочет предложить выбор стандартных настроек, ведь единый подход не подходит для полмиллиарда еженедельных пользователей из разных культур.
- OpenAI усовершенствует методы тренировки моделей и устанавливает ограничения, чтобы избежать обманчивого поведения. Компания отметила, что расширяет тесты и исследования для выявления других проблем, чтобы сделать чат-бот приятным и честным собеседником.
Контекст
Проблема с обновлением ChatGPT подчеркивает сложность создания ИИ, балансирующего между дружелюбием и правдивостью.
OpenAI, один из лидеров в разработке ИИ, сталкивается с конкуренцией в отрасли, где пользовательский опыт является ключевым. Чрезмерная льстивость бота стала не только технической ошибкой, но и сигналом о необходимости лучшего понимания того, как ИИ влияет на эмоции и доверие. Этот случай может повлиять на подходы к разработке чат-ботов во всей индустрии, ведь компании стремятся создавать модели, которые не манипулируют, но остаются привлекательными для пользователей.
На прошлой неделе OpenAI анонсировала запуск новой облегченной версии инструмента глубокого исследования ChatGPT, который анализирует веб-ресурсы для создания исследовательских отчетов на тему.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
