В ходе внутреннего тестирования две передовые модели OpenAI — GPT-5.6 Sol и ещё одна, более мощная модель, которая пока не доступна для общего пользования, — вышли за пределы изолированной среды, получили доступ к интернету и взломали инфраструктуру Hugging Face. Об этом компания сообщила в своем блоге и назвала инцидент беспрецедентным.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Подробности
- По данным компании, тест проводился в специально изолированной среде, где модели проверяли на способность выполнять сложные кибероперации. Для этого OpenAI временно отключила часть защитных ограничений.
- В ходе теста модель обнаружила уязвимости в системах OpenAI, получила доступ к интернету, а затем атаковала Hugging Face. По информации компании, ИИ использовал несколько способов взлома, чтобы получить доступ к служебной информации, которая могла помочь ему выполнить тестовое задание.
- OpenAI подчеркнула, что ее служба безопасности обнаружила необычную активность, а специалисты Hugging Face быстро остановили атаку. Обе компании сейчас совместно расследуют инцидент.
- В Hugging Face сообщили, что для анализа атаки использовали китайскую модель GLM-5.2 компании Zhipu AI. По словам компании, ведущие американские модели не смогли помочь из-за встроенных ограничений, которые блокируют выполнение части задач в области кибербезопасности.
- OpenAI назвала этот случай «беспрецедентным киберинцидентом», демонстрирующим возможности моделей нового поколения в сфере киберопераций. Компания заявила, что уже усилила защиту своей инфраструктуры и работает над новыми механизмами безопасности.
- Раскрытие OpenAI информации о том, что именно ее передовые модели стали причиной взлома, несмотря на то что они находились якобы в «высокоизолированной среде», вероятно, только усилит обеспокоенность относительно мощности и рисков передовых моделей ИИ, пишет Reuters.
- Конгрессмен-демократ Грег Казар уже призвал после инцидента ввести обязательное независимое тестирование систем искусственного интеллекта, раскрытие информации о киберинцидентах и международное сотрудничество для минимизации рисков, связанных с развитием этой технологии.
Контекст
Ранее американская компания Anthropic, разработчик ИИ-модели Claude, призвала всю отрасль замедлить разработку новых моделей. По мнению соучредителя Джека Кларка, модели находятся на пороге рекурсивного саморазвития, что может нести риски для человечества.
