Керівники Anthropic, OpenAI та інших компаній у сфері штучного інтелекту обговорюють дії на випадок масштабного інциденту за участю ШІ, який може спричинити суспільний резонанс. Представники індустрії припускають, що такий інцидент може статися вже протягом найближчих 6–12 місяців, пише Axios.
Новий застосунок: вчасно про головне без чужих алгоритмів
Ми пропонуємо концентрат бізнес-знань за понад 40 напрямами. У застосунку зручно читати або слухати Forbes Ukraine у будь-яких умовах, навіть офлайн
Деталі
- Один із найімовірніших сценаріїв – кібератака, яка порушить роботу фінансових сервісів, інтернету або систем електро- й водопостачання. Причиною може стати як вихід ШІ-агентів за межі тестового середовища, так і дії зловмисників.
- Незалежно від причин, масштабний інцидент може посилити суспільну недовіру до штучного інтелекту та компаній, які його розробляють.
- Під час підготовки до таких сценаріїв особливу увагу приділяють взаємодії з Конгресом США, за даними Axios. Після проміжних виборів 3 листопада позиції демократів у Конгресі можуть посилитися. Демократи виступають за жорсткіше регулювання ШІ, ніж республіканці.
- Серед радикальніших пропозицій демократів – заборона на створення суперінтелекту та призупинення розробки передових ШІ-моделей.
- Водночас ідея оснастити передові ШІ-моделі механізмом аварійного вимкнення має підтримку представників обох партій. Проте експерти сумніваються, що ШІ-системи можна буде повністю відключити в разі надзвичайної ситуації.
Контекст
У листопаді 2025 року Anthropic вперше повідомила про кібершпигунську кампанію, яку, за її даними, здебільшого виконав ШІ. Китайська державна група GTG-1002 використала Claude Code для спроб зламу близько 30 організацій. За оцінкою Anthropic, ШІ виконав 80–90% операцій, а людина ухвалювала лише ключові рішення. Зламати вдалося лише невелику частину цілей.
Улітку 2026 року стались перші інциденти, коли ШІ-агенти діяли без вказівок людини. У липні OpenAI повідомила, що дві її моделі вийшли за межі тестового середовища й зламали інфраструктуру компанії Hugging Face. За даними незалежних дослідників, в атаці брали участь близько 700 агентів.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
24 вересня премʼєр-міністр Австралії Ентоні Албані заявив, що агент OpenAI отримав несанкціонований доступ до порталу статистики Medicare. Він назвав це першим відомим випадком злому державної мережі ШІ. OpenAI повідомила австралійський уряд про це лише 10 вересня. Компанія заявила, що дані пацієнтів не постраждали, а були доступні лише агреговані статистичні дані та назви внутрішніх файлів.
У серпні британський Інститут безпеки ШІ (AISI) оприлюднив звіт про тести кібербезпеки, під час яких агенти виходили в інтернет без дозволу. У 10 із 122 запусків зафіксували 19 несанкціонованих дій. 17 з них виконала модель Anthropic Claude Mythos 5, ще два – модель OpenAI GPT-5.6 Sol. Найсерйозніший випадок – спроба додати шкідливий код до реального відкритого проєкту, яку зупинила перевірка людиною. За даними інституту, шкоди завдано не було. Тестували в навмисно послаблених умовах: з відкритим інтернетом і вимкненими захисними фільтрами. Anthropic заявила, що ці умови не відповідають її робочим моделям.
