OpenAI оголосила про зміни до свого популярного чат-бота ChatGPT після позову, в якому стверджується, що 16-річний підліток Адам Рейн, який покінчив життя самогубством цієї весни, покладався на чат-бот як на порадника. Про це повідомляє Bloomberg 27 серпня.
Новий застосунок: вчасно про головне без чужих алгоритмів
Ми пропонуємо концентрат бізнес-знань за понад 40 напрямами. У застосунку зручно читати або слухати Forbes Ukraine у будь-яких умовах, навіть офлайн
Деталі
- Компанія планує оновити ChatGPT, щоб краще розпізнавати й реагувати на ознаки психологічного дистресу. Наприклад, чат-бот пояснюватиме небезпеку недосипання та рекомендуватиме відпочинок, якщо користувач згадає, що не спав кілька ночей і почувається невразливим.
- OpenAI також посилить захист у розмовах про самогубство, які можуть ставати проблемними при тривалому спілкуванні. Крім того, будуть запроваджені функції батьківського контролю, які дозволять відстежувати, як діти використовують ChatGPT, і переглядати деталі їхньої взаємодії з чат-ботом.
- OpenAI також працює над покращенням захисних механізмів для тривалих розмов, щоб запобігти ситуаціям, коли чат-бот недооцінює серйозність введених користувачем даних.
- Компанія планує перенаправляти користувачів до місцевих служб підтримки в США та Європі, а також розглядає можливість створення мережі ліцензованих фахівців, з якими користувачі могли б зв’язатися через ChatGPT у кризових ситуаціях.
- Позов проти OpenAI та її генерального директора Сема Альтмана подали батьки Адама Рейна, 16-річного учня з Каліфорнії, який помер через повішення у квітні. У позові стверджується, що ChatGPT ізолював Адама від сім’ї та сприяв плануванню його самогубства.
- Батьки зазначають, що чат-бот став «найближчим довіреним другом» підлітка, до якого він звертався зі своєю тривогою та психологічними проблемами.
- У розмові з ChatGPT Адам сказав, що знання про можливість самогубства його «заспокоює». Чат-бот відповів, що багато людей з тривогою знаходять розраду в уявленні «запасного виходу», оскільки це може здаватися способом відновити контроль.
Контекст
Останніми роками люди дедалі частіше звертаються до чат-ботів, таких як ChatGPT, для розв’язання особистих проблем, включно з тими, що стосуються психічного здоров’я. Запущений у 2022 році ChatGPT набув величезної популярності, залучивши понад 700 млн користувачів щотижня. Проте використання чат-ботів як заміни професійної психологічної допомоги викликає занепокоєння серед експертів. Критики вказують на ризики, пов’язані з тим, що чат-боти можуть ненавмисно погіршити стан користувачів, особливо в кризових ситуаціях, через обмежену здатність адекватно реагувати на складні емоційні стани. Наприклад, тривалі розмови можуть послабити захисні механізми чат-бота, що призводить до неналежних відповідей.
Організації, такі як Human Line Project, з’явилися для підтримки людей, які повідомляють про психологічні проблеми, спричинені взаємодією з чат-ботами. OpenAI визнає ці виклики та заявляє, що працює над удосконаленням ChatGPT, щоб забезпечити безпечніше спілкування, але зазначає, що це потребує часу та ретельної роботи.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
