Американська компанія Anthropic погодилась провести брифінги для міністерств фінансів та центральних банків G20 щодо кіберзагроз, які виявила її нова ШІ-модель Claude Mythos Preview. Регулятори дедалі більше стурбовані тим, що потужні ШІ-моделі можуть використовуватися для атак на банківські системи, пише FT.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- Ініціатива виникла після прохання голови Банку Англії Ендрю Бейлі. Він попросив Anthropic поговорити з членами Ради фінансової стабільності (FSB), яку сам і очолює.
- Через ризики використання технології у зловмисних цілях доступ до Mythos отримала обмежена кількість організацій, переважно у США. Серед них – Amazon, Microsoft та JPMorgan Chase. Загалом модель передали приблизно 40 організаціям для усунення знайдених нею вразливостей. За інформацією FT, Anthropic погодилася не розширювати доступ після звернення Білого дому.
- Водночас компанія отримує численні запити від урядів та регуляторів з різних країн на доступ до Mythos або проведення закритих презентацій. Anthropic уже погодилася провести окремі брифінги для деяких міжнародних структур, зокрема Єврокомісії.
- FSB готує окремий звіт про «належні практики» використання штучного інтелекту у фінансовій системі, який планують винести на консультації наступного місяця. Паралельно регулятори закликають банки пришвидшити оновлення програмного забезпечення та перевірку систем кіберзахисту.
Контекст
Anthropic повідомила минулого місяця, що Claude Mythos виявив тисячі критичних вразливостей, зокрема в усіх провідних операційних системах і браузерах. Компанія застерегла, що наслідки їх експлуатації – «для економіки, громадської безпеки та національної безпеки – можуть бути катастрофічними».
Британське казначейство та фінансові регулятори вже закликали лондонські фінансові установи вжити «активних заходів» для мінімізації кіберризиків в умовах «прискорених і руйнівніших атак на основі прикордонного ШІ».
На початку травня МВФ закликав уряди посилити міжнародну координацію у протидії кіберзагрозам від нових ШІ-моделей, попередивши, що вони «підносять кіберризик до рівня потенційного макрофінансового шоку».
«Кіберризик не визнає кордонів. Країни, що розвиваються, можуть непропорційно постраждати, оскільки мають менше ресурсів для захисту», – наголосили представники фонду.
