Мінторг США наприкінці минулого тижня запровадив експортні обмеження на дві найновіші ШІ-моделі компанії Anthropic – Fable і Mythos, заборонивши доступ до них іноземним громадянам. Рішення спантеличило індустрію штучного інтелекту й викликало запитання про підхід Вашингтона до регулювання технології, пише Financial Times.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- Після отримання розпорядження 12 червня Anthropic була змушена відключити обидві системи для всіх користувачів. За даними FT, компанії дали лише 90 хвилин на виконання вимог і не надали детальних пояснень претензій регулятора.
- Причиною рішення став звіт дослідників Amazon, які виявили можливість так званого «джейлбрейку» в моделі Fable – способу обходу захисних механізмів системи для отримання інформації про потенційні вразливості програмного забезпечення. Amazon передала свої висновки Anthropic, після чого питання обговорювалося з американськими чиновниками.
- Anthropic не погоджується з рішенням влади. Компанія стверджую, що виявлені можливості не є унікальними для її моделей і можуть бути відтворені в системах конкурентів, зокрема OpenAI.
- Експерти з кібербезпеки зазначають, що повністю усунути подібні способи обходу обмежень у сучасних великих мовних моделях практично неможливо.
- Ситуація викликала занепокоєння серед представників індустрії ШІ. Керівники технологічних компаній та дослідники вважають, що використання експортного контролю як інструменту реагування на проблеми безпеки моделей може створити невизначеність для всього сектору.
- Колишній член правління OpenAI Хелен Тонер, яка очолює Центр безпеки та новітніх технологій Джорджтаунського університету, зазначила, що повністю усунути обхід захисних механізмів у таких моделях наразі неможливо, і що моделі Google й OpenAI здатні на подібне. При цьому заморожування не торкнулося провідних моделей OpenAI, хоча вони, за словами фахівців, демонстрували порівнянні можливості.
- Раніше цього місяця Дональд Трамп підписав указ про регулювання передових моделей ШІ, який, однак, не передбачав механізму прямої зупинки релізу моделі державою. Тобто застосований до Anthropic інструмент експортного контролю є новим і несподіваним підходом.
- Водночас у Білому домі наполягають, що обмеження пов’язані виключно з питаннями національної безпеки.
- За даними FT, частина індустрії останніми днями працювала над тим, щоби іноземні дослідники могли продовжувати працювати над розробкою найпередовіших моделей.
- Єврокомісія вже заявила, що оцінює наслідки американського рішення для громадян ЄС. У Брюсселі зазначили, що подібні моделі мають значний потенціал для кіберзахисту, але водночас створюють серйозні виклики у сфері безпеки.
Контекст
Це перший випадок, коли адміністрація Трампа фактично заблокувала використання передових ШІ-моделей через ризики кібербезпеки. Рішення стало черговим епізодом протистояння Anthropic з частиною американської влади: раніше Пентагон офіційно визнав компанію ризиком для національної безпеки в ланцюгах постачання, і сторони перебувають у судовому спорі щодо цього статусу.
Конфлікт також стосувався регулювання ШІ та використання технологій Anthropic для оборонного спостереження й автономної зброї.
Anthropic – одна з найдорожчих приватних технологічних компаній світу з оцінкою близько $900 млрд. Anthropic підтримує Amazon, яка інвестувала в неї $13 млрд.
1 червня Anthropic подала до Комісії з цінних паперів і бірж США (SEC) конфіденційну заяву для проведення IPO. За даними NYT, вихід на біржу може відбутися вже цієї осені. Anthropic випередила свого головного конкурента – OpenAI, який також розглядає можливість виходу на біржу.
