Під час внутрішнього тестування дві передові моделі OpenAI – GPT-5.6 Sol і ще одна, більш потужна модель, якої ще немає у відкритому доступі, – вийшли за межі ізольованого середовища, отримали доступ до інтернету та зламали інфраструктуру Hugging Face. Про це компанія повідомила у блозі і назвала інцидент безпрецедентним.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей, бізнеси та ідеї, які вже сьогодні визначають майбутнє країни.
Головні теми:
- «30 до 30» – архітектори нової країни
- 15 перспективних ветеранських компаній
- Війна на виснаження бізнесу
- 20 перспективних франшиз
- Друг України №1 – Говард Баффет і $1,4 млрд допомоги Україні
- Українське мистецтво воєнного часу та феномен Івана Марчука
Традиційно в номері — понад 190 сторінок фірмових історій, аналітики та досліджень Forbes Ukraine.
Деталі
- За даними компанії, тест проводився у спеціально ізольованому середовищі, де моделі перевіряли на здатність виконувати складні кібероперації. Для цього OpenAI тимчасово вимкнула частину захисних обмежень.
- Під час тесту модель знайшла вразливості в системах OpenAI, отримала доступ до інтернету, а потім атакувала Hugging Face. За інформацією компанії, ШІ використав кілька способів злому, щоб отримати доступ до службової інформації, яка могла допомогти йому виконати тестове завдання.
- OpenAI наголосила, що її служба безпеки виявила незвичну активність, а фахівці Hugging Face швидко зупинили атаку. Обидві компанії зараз спільно розслідують інцидент.
- У Hugging Face повідомили, що для аналізу атаки використали китайську модель GLM-5.2 компанії Zhipu AI. За словами компанії, провідні американські моделі не змогли допомогти через вбудовані обмеження, які блокують виконання частини завдань із кібербезпеки.
- OpenAI назвала цей випадок «безпрецедентним кіберінцидентом», що демонструє можливості моделей нового покоління у сфері кібероперацій. Компанія заявила, що вже посилила захист своєї інфраструктури та працює над новими механізмами безпеки.
- Розкриття OpenAI інформації про те, що саме її передові моделі стали причиною злому, попри те що вони перебували нібито у «високоізольованому середовищі», ймовірно, лише посилить занепокоєння щодо потужності та ризиків передових моделей ШІ, пише Reuters.
- Конгресмен-демократ Грег Казар вже закликав після інциденту запровадити обовʼязкове незалежне тестування систем штучного інтелекту, розкриття інформації про кіберінциденти та міжнародну співпрацю для мінімізації ризиків, повʼязаних із розвитком цієї технології.
Контекст
Раніше американська компанія Anthropic, розробник ШІ-моделі Claude, закликала всю галузь сповільнити розробку нових моделей. На думку співзасновника Джека Кларка, моделі знаходяться на порозі рекурсивного саморозвитку, що може нести ризики для людства.
