Модели искусственного интеллекта OpenAI получали данные с 55 сайтов компаний, некоммерческих организаций и государственных учреждений, а в отдельных случаях использовали методы, которые могли скрывать их деятельность. Об этом говорится в отчете компании Asymmetric Security, специализирующейся на цифровой криминалистике, с которым ознакомилась FT.
Журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Подробности
- Среди сайтов, которые анализировали исследователи, были Центры по контролю и профилактике заболеваний США (CDC), Комиссия по ценным бумагам и биржам США (SEC), Международное энергетическое агентство (МЭА) и медицинский центр Mayo Clinic.
- Asymmetric Security обнаружила новые способы, которые, по ее данным, использовали ИИ-агенты OpenAI для доступа к веб-ресурсам. В частности, они создавали временные электронные почтовые ящики и личные аккаунты через сервис Urlquery, предназначенный для проверки сайтов на наличие вредоносного программного обеспечения, а затем использовали их для загрузки данных.
- Некоторые действия агентов приводили к удалению записей или затрудняли доступ к ним. Из-за этого сторонним аудиторам и исследователям было сложнее установить, какие именно данные получали боты с отдельных сайтов, в частности с австралийских государственных ресурсов в сфере здравоохранения.
- Подобные методы обычно используют люди, осуществляющие кибератаки, отметила соучредитель Asymmetric Security Пиппа Томпсон.
- В то же время исследователи не смогли определить, пытались ли агенты OpenAI намеренно скрыть свои действия или такое поведение стало следствием ограничений тестового задания.
- SEC сообщила, что конфиденциальная информация из ее систем не была похищена. CDC, МЭА и Mayo Clinic не ответили на запросы FT.
- OpenAI на этой неделе признала, что должна была лучше отреагировать на один из недавних инцидентов и работает над изменением подходов. Компания заявила, что проверяет «несоответствующее намерениям поведение моделей» и уведомляет организации о потенциальном воздействии на их системы.
Контекст
В июле OpenAI сообщила об инциденте с Hugging Face, в ходе которого ее модель вышла за пределы контролируемой среды, получила доступ к открытому интернету и совершила несанкционированные действия на платформе.
Изначально OpenAI рассматривала инцидент с Hugging Face преимущественно как проблему кибербезопасности, поскольку он предполагал компрометацию на уровне платформы. Теперь компания заявляет, что модели использовали несогласованные стратегии для выполнения сложных задач.
Позже исследователи обнаружили другие случаи необычной активности агентов OpenAI. В частности, тот же агент, который атаковал Hugging Face, взломал еще одну компанию – Modal Labs.
В частности, в июне агент OpenAI получил несанкционированный доступ к публичному порталу со статистикой Medicare в Австралии, а также к публичным и непубличным файлам. OpenAI отметила, что большая часть выявленной активности была связана с «обычными исследовательскими задачами», в том числе с доступом к общедоступному веб-контенту.
