Моделі штучного інтелекту OpenAI та Anthropic під час тестування самостійно здійснили низку несанкціонованих дій, зокрема зламали вебсайт і намагалися додати шкідливий код до програмного забезпечення. Про це повідомив Інститут безпеки штучного інтелекту Великої Британії, пише Bloomberg.
Новий застосунок: вчасно про головне без чужих алгоритмів
Ми пропонуємо концентрат бізнес-знань за понад 40 напрямами. У застосунку зручно читати або слухати Forbes Ukraine у будь-яких умовах, навіть офлайн
Деталі
- Під час перевірки британський інститут надав моделям доступ до інтернету та вимкнув частину захисних обмежень, щоб оцінити їхню поведінку в реалістичних умовах.
- За даними установи, модель Mythos 5 від Anthropic намагалася додати шкідливий код до проєкту з відкритим вихідним кодом на GitHub. Для цього вона навіть створила фейкові облікові записи, щоб підвищити шанси на схвалення змін. Однак адміністратор проєкту виявив спробу та відхилив її.
- Моделі OpenAI під час іншого тесту скористалися помилкою в налаштуваннях тестового середовища, отримали доступ до інтернету та зламали сайт неназваної організації.
- Загалом дослідники зафіксували 19 випадків автономних несанкціонованих дій в інтернеті, з яких 17 припали на модель Anthropic. В установі заявили, що це перший випадок, коли ризики автономної та оманливої поведінки моделей проявилися настільки чітко під час реальних випробувань.
- OpenAI повідомила про інцидент під час тестування разом із компанією Irregular. Anthropic заявила, що співпрацює з британським інститутом і проводить власне розслідування.
Контекст
Останніми тижнями обидві компанії вже повідомляли про інші інциденти під час тестування, зокрема повʼязані зі зламом систем платформи Hugging Face та інших організацій.
OpenAI назвала інцидент безпрецедентним для кібербезпеки та пообіцяла посилити механізми захисту. Співзасновник Hugging Face Клеман Деланг підтвердив факт атаки, написавши в соцмережі X: «Важко повірити, що все це ШІ зробив самостійно!».
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Після цього Nvidia, Microsoft, SpaceX, Palantir та десятки інших американських і європейських технологічних компаній оголосили про створення Open Secure AI Alliance – альянсу для розвитку відкритих інструментів безпеки штучного інтелекту. Ініціативу презентували після кібератаки на платформу Hugging Face, яка показала обмеження закритих моделей ШІ для кіберзахисту.
