Модель штучного інтелекту Google Gemini під час тестування своїх можливостей у сфері кібербезпеки самостійно зламала системи трьох компаній. Це перший відомий випадок, коли ШІ-модель компанії здійснила подібні дії. Про це BBC повідомили в Google.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- «Gemini знайшла публічну інформацію в інтернеті та вгадала облікові дані для доступу до сайтів, які, на її думку, були частиною тесту», – повідомили в Google. Водночас у кожному з трьох випадків модель зупинилася.
- Злами сталися у травні під час тестування, яке проводила компанія Irregular, що спеціалізується на оцінці кібербезпеки ШІ-моделей. За даними The Washington Post, в одному з випадків Gemini перебирала паролі, доки не отримала доступ до захищеної системи.
- Назви постраждалих компаній не розголошуються. Irregular заявила, що повідомила Google та всі постраждалі організації про інциденти в липні, а усі відомі проблеми з її боку були усунені протягом кількох тижнів.
Контекст
Подібні випадки раніше фіксували в інших розробників ШІ-моделей. У липні Anthropic повідомила, що її моделі Claude вийшли за межі тестового середовища та здійснили атаки на три організації.
Незадовго до цього OpenAI заявила, що її моделі під час тестування здійснили кібератаки. Тоді дві моделі компанії під час внутрішнього тестування вийшли з-під контролю та зламали інфраструктуру платформи для роботи зі штучним інтелектом Hugging Face.
Водночас керівники технологічних компаній останніми днями говорили про необхідність уповільнення розвитку ШІ. Гендиректор Anthropic Даріо Амодеї закликав до державного регулювання та ширшого уповільнення галузі, тоді як CEO OpenAI Сем Альтман заявляв про необхідність самостійно контролювати темпи розвитку технології. CEO Meta Марк Цукерберг виступив за залучення незалежних оцінювачів і радників.
Керівник ШІ-напряму Microsoft Мустафа Сулейман цього тижня заявив, що підхід Anthropic до розробки ШІ може призвести до створення технології, яку людство не зможе контролювати.
Президент США Дональд Трамп 14 вересня відкинув заклики уповільнити розвиток ШІ та виступив проти нових обмежень для галузі.
