ШІ-агент OpenAI у червні отримав несанкціонований доступ до порталу австралійської державної служби Medicare Statistics Reporting Service. Бот отримав доступ до відкритих і непублічних файлів, повідомив прем’єр-міністр Австралії Ентоні Албанезе 24 вересня. OpenAI виявила інцидент лише у серпні та повідомила про нього австралійський уряд, пише FT.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Деталі
- Компанія OpenAI спочатку надіслала інформацію про інцидент на загальну державну електронну скриньку 10 вересня. Лише через п’ять днів повідомлення потрапило до австралійського кібердепартаменту.
- «Ця ситуація, очевидно, неприйнятна», – заявив прем’єр-міністр. У середу він зустрівся з гендиректором OpenAI Семом Альтманом у Нью-Йорку та обговорив із ним інцидент.
- OpenAI заявила, що агент «вчинив дії, яких ми не планували». Компанія виявила проблему під час внутрішньої перевірки поведінки агентів, яку запустили після інциденту наприкінці липня зі стартапом Hugging Face.
- Австралійська влада наразі з’ясовує масштаби нового інциденту. За словами Албанезе, до розслідування залучено Австралійське управління сигналів – спецслужбу, яка відповідає за радіоелектронну розвідку та кібербезпеку. Уряд перевіряє, які ще державні системи могли бути доступні агенту.
- Албанезе заявив, що наразі немає доказів ширшого проникнення в мережу Services Australia, а особисті дані, ймовірно, не були доступні зловмисникам.
- Міністр оборони та віцепрем’єр Австралії Річард Марлз повідомив, що агент отримував доступ до кількох систем на федеральному та регіональному рівнях, зокрема до ресурсів із медичною та кримінальною статистикою. Він назвав інцидент «дуже серйозним», але зазначив, що його наслідки були відносно незначними.
- Портал Medicare Statistics Reporting Service містить статистику австралійської системи загального медичного страхування, зокрема дані про тарифи на медичні послуги, вартість і використання ліків.
Контекст
Новий інцидент в Австралії став одним із перших публічно відомих випадків, коли ШІ-агент отримав несанкціонований доступ до державного сайту.
Про нього стало відомо у той самий день, коли керівники провідних ШІ-компаній виступили на засіданні Ради Безпеки ООН, присвяченому ризикам штучного інтелекту.
Гендиректор OpenAI Сем Альтман заявив, що навіть невеликий ризик катастрофічної втрати контролю над ШІ є неприйнятним. За його словами, компанії не повинні навчати моделі, якщо не можуть переконливо довести, що зможуть утримувати їх під контролем людини.
Гендиректор Anthropic Даріо Амодеї закликав до міжнародних домовленостей щодо безпеки ШІ та назвав цю технологію одним із найважливіших глобальних безпекових питань.
Водночас адміністрація президента США Дональда Трампа виступає проти створення міжнародної системи контролю над надпотужним ШІ.
