OpenAI оголосила про зміни до свого популярного чат-бота ChatGPT після позову, в якому стверджується, що 16-річний підліток Адам Рейн, який покінчив життя самогубством цієї весни, покладався на чат-бот як на порадника. Про це повідомляє Bloomberg 27 серпня.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- Компанія планує оновити ChatGPT, щоб краще розпізнавати й реагувати на ознаки психологічного дистресу. Наприклад, чат-бот пояснюватиме небезпеку недосипання та рекомендуватиме відпочинок, якщо користувач згадає, що не спав кілька ночей і почувається невразливим.
- OpenAI також посилить захист у розмовах про самогубство, які можуть ставати проблемними при тривалому спілкуванні. Крім того, будуть запроваджені функції батьківського контролю, які дозволять відстежувати, як діти використовують ChatGPT, і переглядати деталі їхньої взаємодії з чат-ботом.
- OpenAI також працює над покращенням захисних механізмів для тривалих розмов, щоб запобігти ситуаціям, коли чат-бот недооцінює серйозність введених користувачем даних.
- Компанія планує перенаправляти користувачів до місцевих служб підтримки в США та Європі, а також розглядає можливість створення мережі ліцензованих фахівців, з якими користувачі могли б зв’язатися через ChatGPT у кризових ситуаціях.
- Позов проти OpenAI та її генерального директора Сема Альтмана подали батьки Адама Рейна, 16-річного учня з Каліфорнії, який помер через повішення у квітні. У позові стверджується, що ChatGPT ізолював Адама від сім’ї та сприяв плануванню його самогубства.
- Батьки зазначають, що чат-бот став «найближчим довіреним другом» підлітка, до якого він звертався зі своєю тривогою та психологічними проблемами.
- У розмові з ChatGPT Адам сказав, що знання про можливість самогубства його «заспокоює». Чат-бот відповів, що багато людей з тривогою знаходять розраду в уявленні «запасного виходу», оскільки це може здаватися способом відновити контроль.
Контекст
Останніми роками люди дедалі частіше звертаються до чат-ботів, таких як ChatGPT, для розв’язання особистих проблем, включно з тими, що стосуються психічного здоров’я. Запущений у 2022 році ChatGPT набув величезної популярності, залучивши понад 700 млн користувачів щотижня. Проте використання чат-ботів як заміни професійної психологічної допомоги викликає занепокоєння серед експертів. Критики вказують на ризики, пов’язані з тим, що чат-боти можуть ненавмисно погіршити стан користувачів, особливо в кризових ситуаціях, через обмежену здатність адекватно реагувати на складні емоційні стани. Наприклад, тривалі розмови можуть послабити захисні механізми чат-бота, що призводить до неналежних відповідей.
Організації, такі як Human Line Project, з’явилися для підтримки людей, які повідомляють про психологічні проблеми, спричинені взаємодією з чат-ботами. OpenAI визнає ці виклики та заявляє, що працює над удосконаленням ChatGPT, щоб забезпечити безпечніше спілкування, але зазначає, що це потребує часу та ретельної роботи.
