У Конгресі США різко зросла стурбованість тим, що розвиток штучного інтелекту може вийти з-під контролю. Поштовхом стало відкрите звернення колишнього дослідника Anthropic Джейкоба Коксона, який попередив, що провідні лабораторії, зокрема Anthropic та її конкуренти, будують системи, які вже не зможуть контролювати. Його заява набула вірусного поширення й активізувала десятки законодавців з обох партій, пише WSJ.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Деталі
- Демократи в Палаті представників розглядають створення окремого спецкомітету з питань штучного інтелекту, якщо партія отримає більшість після проміжних виборів, кажуть обізнані з ситуацією джерела.
- Конгресмен Ро Кханна закликав створити новий федеральний регуляторний орган для ШІ за зразком тих, що наглядають за ядерною енергетикою та авіацією, і підтримав ідею «кнопок вимкнення» для небезпечних систем.
- Сенатор Берні Сандерс запросив колег на закриту доповідь про ризики ШІ, заявивши, що Конгрес суттєво відстає у реагуванні на цю технологію. Сандерс та інші законодавці просувають ідею заборони так званого суперінтелекту.
- Сенатори Тед Круз та Емі Клобучар заявили про намір просунути двопартійний законопроєкт. Документ стосується катастрофічних ризиків – ядерних чи біологічних загроз, які можуть бути посилені ШІ. Він передбачатиме, що розробники повинні співпрацювати з державними експертами для перевірки безпеки моделей.
- Цього тижня зʼявилася низка інших ініціатив: конгресвумен Анна Луна запропонувала скликати спеціальну сесію Конгресу, присвячену ШІ, а сенатор Кріс Ван Холлен закликав до термінового діалогу зі США з Китаєм щодо створення механізмів безпеки та тестування ШІ.
Акція протесту проти розвитку ШІ та будівництва центрів обробки даних. 2 вересня 2026 року, Чапел-Гілл, Північна Кароліна, США. Фото: Getty Іmages
- Сенатор Джош Хоулі повідомив гендиректора OpenAI Сема Альтмана, що очолюваний ним підкомітет із питань управління катастрофами розслідує злам компанії Hugging Face. Аналогічний запит направив Альтману сенатор Річард Блюменталь.
- Демократи Тед Лью та Білл Фостер минулого тижня обговорювали з лідером меншості в Палаті представників Гакімом Джеффрісом можливість створення спецкомітету з ШІ у разі перемоги демократів на проміжних виборах. Подібну ініціативу в Сенаті просуває сенатор Рубен Гальєго.
- Частина керівників технологічних компаній готується до можливої хвилі наглядових листів і слухань, якщо демократи повернуть контроль над Конгресом.
- Частина індустрії ШІ традиційно виступає проти так званих «думерів» – прихильників песимістичних прогнозів, водночас витрачаючи мільйони доларів на лобістів, рекламу та заходи у Вашингтоні, щоб вплинути на майбутнє регулювання.
- OpenAI та інші компанії публічно заявляють про готовність до розумного нагляду, хоча приватно застерігали проти надто обтяжливих обмежень.
- Головний директор OpenAI з глобальних питань Кріс Лехейн заявив, що компанія має намір скористатися нинішнім вікном можливостей для формування політики щодо ШІ.
Контекст
Занепокоєння можливостями ШІ-моделей наростає протягом останніх місяців. У квітні Anthropic анонсувала модель Mythos, яку презентувала як таку, що має просунуті кіберможливості. Це викликало паніку серед фінансових установ у всьому світі. У липні OpenAI повідомила про кіберінцидент, спричинений її моделями в іншій компанії. Моделі Claude від Anthropic також фігурували в кількох кібербезпекових інцидентах, зокрема одному, де Mythos створила фейкові особи для обману людей.
Близько 1400 дослідників ШІ з OpenAI, Anthropic, Meta та Google DeepMind підписали відкритий лист із закликом до уряду США розробити інструменти для свідомого стримування темпів автоматизованого розвитку ШІ.
Цього тижня дослідники OpenAI та Anthropic публічно закликають сповільнити розвиток ШІ на тлі побоювань щодо втрати контролю над дедалі потужнішими моделями. Дискусія загострилася після звільнення дослідника Anthropic Джейкоба Коксона, який звинуватив компанії у «грі з нашими життями».
