Модели искусственного интеллекта OpenAI получали данные с 55 сайтов компаний, некоммерческих организаций и государственных учреждений, а в отдельных случаях использовали методы, которые могли скрывать их деятельность. Об этом говорится в отчете компании Asymmetric Security, специализирующейся на цифровой криминалистике, с которым ознакомилась FT.
Журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Подробности
- Среди сайтов, которые анализировали исследователи, были Центры по контролю и профилактике заболеваний США (CDC), Комиссия по ценным бумагам и биржам США (SEC), Международное энергетическое агентство (МЭА) и медицинский центр Mayo Clinic.
- Asymmetric Security обнаружила новые способы, которые, по ее данным, использовали ИИ-агенты OpenAI для доступа к веб-ресурсам. В частности, они создавали временные электронные почтовые ящики и личные аккаунты через сервис Urlquery, предназначенный для проверки сайтов на наличие вредоносного программного обеспечения, а затем использовали их для загрузки данных.
- Некоторые действия агентов приводили к удалению записей или затрудняли доступ к ним. Из-за этого сторонним аудиторам и исследователям было сложнее установить, какие именно данные получали боты с отдельных сайтов, в частности с австралийских государственных ресурсов в сфере здравоохранения.
- Подобные методы обычно используют люди, осуществляющие кибератаки, отметила соучредитель Asymmetric Security Пиппа Томпсон.
- В то же время исследователи не смогли определить, пытались ли агенты OpenAI намеренно скрыть свои действия или такое поведение стало следствием ограничений тестового задания.
- SEC сообщила, что конфиденциальная информация из ее систем не была похищена. CDC, МЭА и Mayo Clinic не ответили на запросы FT.
- OpenAI на этой неделе признала, что должна была лучше отреагировать на один из недавних инцидентов и работает над изменением подходов. Компания заявила, что проверяет «несоответствующее намерениям поведение моделей» и уведомляет организации о потенциальном воздействии на их системы.
Контекст
В июле OpenAI сообщила об инциденте с Hugging Face, в ходе которого ее модель вышла за пределы контролируемой среды, получила доступ к открытому интернету и совершила несанкционированные действия на платформе.
Изначально OpenAI рассматривала инцидент с Hugging Face преимущественно как проблему кибербезопасности, поскольку он предполагал компрометацию на уровне платформы. Теперь компания заявляет, что модели использовали несогласованные стратегии для выполнения сложных задач.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Позже исследователи обнаружили другие случаи необычной активности агентов OpenAI. В частности, тот же агент, который атаковал Hugging Face, взломал еще одну компанию – Modal Labs.
В частности, в июне агент OpenAI получил несанкционированный доступ к публичному порталу со статистикой Medicare в Австралии, а также к публичным и непубличным файлам. OpenAI отметила, что большая часть выявленной активности была связана с «обычными исследовательскими задачами», в том числе с доступом к общедоступному веб-контенту.