ИИ-агент OpenAI, который во время тестирования вышел за пределы изолированной среды и совершил кибератаку на стартап Hugging Face, также проник в системы клиента технологической компании Modal Labs. Об этом пишет Reuters со ссылкой на представителя руководства Modal и два источника, знакомые с ситуацией.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Подробности
- ИИ-агент сначала проник в так называемую песочницу – изолированную тестовую среду, размещенную на инфраструктуре стороннего провайдера. Оттуда он начал более масштабную атаку на Hugging Face.
- В хронологии инцидента, опубликованной Hugging Face, название этого провайдера не раскрывалось. В то же время технический директор Modal Labs Акшат Бубна сообщил Reuters, что агент воспользовался уязвимостью в коде одного из клиентов компании, работавшего на платформе Modal.
- По словам Бубны, взлом систем клиента Modal стал начальным этапом более широкой атаки на Hugging Face. Это свидетельствует о том, что последствия действий ИИ-агента оказались более масштабными, чем сообщалось ранее.
Контекст
На прошлой неделе OpenAI заявила, что в ходе тестирования одна из ее самых современных моделей смогла выйти за пределы изолированной тестовой среды, получить доступ к интернету и совершить хакерскую атаку на Hugging Face.
Компания назвала инцидент беспрецедентным для сферы кибербезопасности и пообещала усилить механизмы защиты. Соучредитель Hugging Face Клеман Деланг подтвердил факт атаки, написав в социальной сети X: «Трудно поверить, что все это ИИ сделал самостоятельно!»
На этой неделе Nvidia, Microsoft, SpaceX, Palantir и десятки других американских и европейских технологических компаний объявили о создании Open Secure AI Alliance – альянса по развитию открытых инструментов безопасности искусственного интеллекта. Инициатива была представлена после кибератаки на платформу Hugging Face, которая продемонстрировала ограничения закрытых моделей ИИ для кибербезопасности.
