Модель штучного інтелекту Google Gemini під час тестування своїх можливостей у сфері кібербезпеки самостійно зламала системи трьох компаній. Це перший відомий випадок, коли ШІ-модель компанії здійснила подібні дії. Про це BBC повідомили в Google.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Деталі
- «Gemini знайшла публічну інформацію в інтернеті та вгадала облікові дані для доступу до сайтів, які, на її думку, були частиною тесту», – повідомили в Google. Водночас у кожному з трьох випадків модель зупинилася.
- Злами сталися у травні під час тестування, яке проводила компанія Irregular, що спеціалізується на оцінці кібербезпеки ШІ-моделей. За даними The Washington Post, в одному з випадків Gemini перебирала паролі, доки не отримала доступ до захищеної системи.
- Назви постраждалих компаній не розголошуються. Irregular заявила, що повідомила Google та всі постраждалі організації про інциденти в липні, а усі відомі проблеми з її боку були усунені протягом кількох тижнів.
Контекст
Подібні випадки раніше фіксували в інших розробників ШІ-моделей. У липні Anthropic повідомила, що її моделі Claude вийшли за межі тестового середовища та здійснили атаки на три організації.
Незадовго до цього OpenAI заявила, що її моделі під час тестування здійснили кібератаки. Тоді дві моделі компанії під час внутрішнього тестування вийшли з-під контролю та зламали інфраструктуру платформи для роботи зі штучним інтелектом Hugging Face.
Водночас керівники технологічних компаній останніми днями говорили про необхідність уповільнення розвитку ШІ. Гендиректор Anthropic Даріо Амодеї закликав до державного регулювання та ширшого уповільнення галузі, тоді як CEO OpenAI Сем Альтман заявляв про необхідність самостійно контролювати темпи розвитку технології. CEO Meta Марк Цукерберг виступив за залучення незалежних оцінювачів і радників.
Керівник ШІ-напряму Microsoft Мустафа Сулейман цього тижня заявив, що підхід Anthropic до розробки ШІ може призвести до створення технології, яку людство не зможе контролювати.
Президент США Дональд Трамп 14 вересня відкинув заклики уповільнити розвиток ШІ та виступив проти нових обмежень для галузі.
