Дослідники OpenAI та Anthropic публічно закликають сповільнити розвиток штучного інтелекту на тлі побоювань щодо втрати контролю над дедалі потужнішими моделями. Дискусія загострилася після звільнення дослідника Anthropic Джейкоба Коксона, який звинуватив компанії у «грі з нашими життями», пише CNBC.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей, бізнеси та ідеї, які вже сьогодні визначають майбутнє країни.
Головні теми:
- «30 до 30» – архітектори нової країни
- 15 перспективних ветеранських компаній
- Війна на виснаження бізнесу
- 20 перспективних франшиз
- Друг України №1 – Говард Баффет і $1,4 млрд допомоги Україні
- Українське мистецтво воєнного часу та феномен Івана Марчука
Традиційно в номері — понад 190 сторінок фірмових історій, аналітики та досліджень Forbes Ukraine.
Деталі
- Коксон заявив, що розробники ШІ вважають, що технологія може «вбити нас усіх до кінця десятиліття». Керівник напряму alignment в Anthropic Еван Губінгер у відповідь оцінив імовірність такого сценарію більш ніж у 10%.
- Після цього кілька співробітників OpenAI та Anthropic підтримали заклики сповільнити темпи розвитку ШІ. «На особистому рівні я теж вважаю, що нам потрібно сповільнитися», – написала в X Джулі Стіл, співробітниця технічної команди OpenAI, яка працює у сфері безпеки.
- Дослідник Anthropic Семюел Маркс заявив, що розробники ШІ вважають, що їхня технологія може спричинити вимирання людства або інші подібні катастрофічні наслідки. За його словами, це може статися протягом найближчих років, а більш досвідчені співробітники галузі загалом висловлюють більшу стурбованість.
- Окреме занепокоєння дослідників пов’язане з рекурсивним самовдосконаленням (recursive self-improvement, RSI) – сценарієм, за якого ШІ-моделі дедалі ефективніше покращують власні можливості.
- «Важко переоцінити, наскільки небезпечним є прискорення руху до RSI», – написала дослідниця OpenAI Джасмін Ван, яка працює над alignment.
- Дослідниця Anthropic Анна Ван заявила, що наразі немає життєздатного наукового плану для розв’язання ризиків, пов’язаних із рекурсивним самовдосконаленням ШІ.
- Головний науковець OpenAI Якуб Пачоцький заявив, що очікує збереження нинішніх темпів прогресу в ШІ аж до етапу рекурсивного самовдосконалення. За його словами, системи, які з’являться протягом найближчих років, можуть продемонструвати стрибки можливостей такого самого або більшого масштабу й дедалі більше впливати на власний розвиток.
- Пачоцький закликав до «надзвичайної обережності» та заявив, що стурбований неготовністю людства до наслідків подальшого стрімкого зростання машинного інтелекту.
- Пол Крістіано, колишній керівник напряму безпеки в Центрі стандартів та інновацій ШІ Міністерства торгівлі США, заявив, що останній розвиток можливостей ШІ змусив його оцінювати ризик швидкого прискорення технології та «катастрофічної й незворотної втрати контролю» у найближчому майбутньому як суттєвий. У середу OpenAI оголосила, що Крістіано приєднається до ради OpenAI Foundation.
Контекст
Занепокоєння можливостями ШІ-моделей наростає протягом останніх місяців. У квітні Anthropic анонсувала модель Mythos, яку презентувала як таку, що має просунуті кіберможливості, – це викликало паніку серед фінансових установ у всьому світі. У липні OpenAI повідомила про кіберінцидент, спричинений її моделями в іншій компанії; моделі Claude від Anthropic також фігурували в кількох кібербезпекових інцидентах, зокрема одному, де Mythos створила фейкові особи для обману людей. Того ж місяця близько 1400 дослідників ШІ з OpenAI, Anthropic, Meta та Google DeepMind підписали відкритий лист із закликом до уряду США розробити інструменти для свідомого стримування темпів автоматизованого розвитку ШІ.
