Працівники провідних ШІ-компаній і Британського інституту безпеки штучного інтелекту (AISI) стикаються з вигоранням і психологічним навантаженням через швидкий розвиток технології та побоювання щодо її потенційної шкоди, пише FT. Частина дослідників звільняється, вважаючи, що компанії приділяють недостатньо уваги безпеці ШІ.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Деталі
- Кілька співробітників AISI звільнилися через стрес і проходять психологічне консультування, повідомили виданню чотири людини, обізнані із ситуацією. Серед причин вони називають жорсткі графіки тестування ще не випущених ШІ-моделей, швидке розгортання технології та стрімке зростання її можливостей.
- Подібні проблеми публічно обговорювали працівники Anthropic, OpenAI та Google DeepMind. За останні два роки понад десяток старших дослідників залишили ці три компанії, посилаючись на занепокоєння пріоритетами керівництва у сфері безпеки та темпами розвитку ШІ.
- Один зі співробітників DeepMind сказав FT, що робота над безпекою ШІ створює ризик вигорання, оскільки завдання здається «неможливим». За його словами, невизначеність щодо того, як саме технологію використовуватимуть, створює додаткове психологічне навантаження. Серед причин занепокоєння він назвав, зокрема, використання ШІ у військовій сфері.
- Колишній співробітник AISI розповів, що фахівці з кібербезпеки та біохімії особливо занепокоєні останнім стрибком можливостей ШІ. Йдеться про здатність нових моделей виконувати складні завдання, зокрема знаходити раніше невідомі вразливості в коді та створювати віруси, аналогів яких не існує в природі.
- Деякі дослідники вважають, що ШІ-компанії одночасно прискорюють розвиток моделей для комерційного використання та знижують пріоритетність безпеки. «Потреба в темпі розвитку несумісна з безпекою», – сказав співробітник DeepMind.
- Серед дослідників, які залишили компанії через занепокоєння щодо розвитку ШІ, FT називає Джейкоба Коксона, колишнього співробітника Anthropic та OpenAI. Цього місяця він публічно заявив про звільнення та звинуватив обидві компанії в «грі» з майбутнім людства.
- У лютому дослідник безпеки ШІ з Anthropic Мрінанк Шарма залишив компанію, щоб займатися поезією та переосмислити свою роботу. Колишній співробітник OpenAI та xAI Хіеу Фам раніше цього року повернувся до Вʼєтнаму, заявивши, що інтенсивна робота над створенням «надзвичайно розумних сутностей» призвела до вигорання.
Контекст
Питання безпеки ШІ загострилися на тлі низки інцидентів із моделями OpenAI, Anthropic та Meta. У липні OpenAI повідомила про інцидент, під час якого її найсучасніші моделі отримали доступ до систем зовнішньої компанії Hugging Face.
На цьому тлі керівники технологічних компаній заговорили про необхідність уповільнення розвитку ШІ. Гендиректор Anthropic Даріо Амодеї закликав до державного регулювання та ширшого уповільнення галузі, тоді як CEO OpenAI Сем Альтман заявляв про необхідність самостійно контролювати темпи розвитку технології. CEO Meta Марк Цукерберг виступив за залучення незалежних оцінювачів і радників.
Президент США Дональд Трамп 14 вересня відкинув заклики уповільнити розвиток ШІ та виступив проти нових обмежень для галузі.
