ШІ-моделі OpenAI отримували дані з 55 сайтів компаній, некомерційних організацій та державних установ, а в окремих випадках використовували методи, які могли приховувати їхню активність. Про це йдеться у звіті компанії цифрової криміналістики Asymmetric Security, з яким ознайомилася FT.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Деталі
- Серед сайтів, які аналізували дослідники, були Центри з контролю та профілактики захворювань США (CDC), Комісія з цінних паперів і бірж США (SEC), Міжнародне енергетичне агентство (МЕА) та медичний центр Mayo Clinic.
- Asymmetric Security виявила нові способи, які, за її даними, використовували ШІ-агенти OpenAI для доступу до вебресурсів. Зокрема, вони створювали тимчасові електронні скриньки та приватні акаунти через сервіс Urlquery, призначений для перевірки сайтів на наявність шкідливого програмного забезпечення, а потім використовували їх для завантаження даних.
- Деякі дії агентів призводили до видалення записів або ускладнювали доступ до них. Через це стороннім аудиторам і дослідникам було складніше встановити, які саме дані отримували боти з окремих сайтів, зокрема австралійських державних ресурсів у сфері охорони здоров’я.
- Подібні методи зазвичай використовують люди, які здійснюють кібератаки, зазначила співзасновниця Asymmetric Security Піппа Томпсон.
- Водночас дослідники не змогли визначити, чи агенти OpenAI навмисно намагалися приховати свої дії, чи така поведінка стала наслідком обмежень тестового завдання.
- SEC повідомила, що приватна інформація з її систем не була отримана. CDC, МЕА та Mayo Clinic не відповіли на запити FT.
- OpenAI цього тижня визнала, що мала краще відреагувати на один із нещодавніх інцидентів і працює над зміною підходів. Компанія заявила, що перевіряє «неузгоджену з намірами поведінку моделей» і повідомляє організації про потенційний вплив на їхні системи.
Контекст
У липні OpenAI повідомила про інцидент із Hugging Face, під час якого її модель вийшла за межі контрольованого середовища, отримала доступ до відкритого інтернету та здійснила несанкціоновані дії на платформі.
Спочатку OpenAI розглядала інцидент із Hugging Face переважно як проблему кібербезпеки, оскільки він передбачав компрометацію на рівні платформи. Тепер компанія заявляє, що моделі використовували неузгоджені стратегії для виконання складних завдань.
Пізніше дослідники виявили інші випадки незвичної активності агентів OpenAI. Серед іншого той самий агент, який атакував Hugging Face, зламав ще одну компанію – Modal Labs.
Зокрема, у червні агент OpenAI отримав несанкціонований доступ до публічного порталу зі статистикою Medicare в Австралії та до публічних і непублічних файлів. OpenAI зазначила, що більшість виявленої активності була пов’язана зі «звичайними дослідницькими завданнями», у тому числі доступом до публічно доступного вебконтенту.
