Суперечка між Anthropic та адміністрацією Дональда Трампа навколо нових ШІ-моделей Claude Fable 5 та Claude Mythos 5 завершилася. Мінторгівлі США погодилося зняти з них експортні обмеження, а компанія посилити заходи безпеки, пише Wired.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- Від початку Anthropic наполягала, що неможливо гарантувати повну відсутність уразливостей, які дозволяють обходити захисні механізми ШІ-моделей. Але останніми тижнями компанія змінила тактику і навіть манеру спілкування.
- Замість Даріо Амодеї з чиновниками зустрічається тепер співзасновник Anthropic Том Браун, який в особистому плані їм подобається більше, кажуть джерела видання. По-друге, розробник по суті почав говорити адміністрації про те, що там хотіли почути, – заходи безпеки будуть посилені, а джейлбрейки зведені до мінімуму.
- З релізу Anthropic випливає, що Fable 5 повернеться до глобального доступу з новим набором класифікаторів, які жорсткіше блокуватимуть запити, повʼязані з кібербезпекою, – більш ніж у 99% випадків. Заблоковані запити до Fable 5 будуть переадресовувати Opus 4.8, поки це торкнеться навіть рутинні завдання програмування, але Anthropic обіцяє допрацювати фільтри.
- Більш потужна Mythos 5 буде, як і раніше, доступна лише обмеженому колу компаній та державних відомств. Разом з Amazon, Microsoft та іншими партнерами у проекті Glasswing Anthropic продовжить розробляти єдиний фреймворк для оцінки та усунення потенційних джейлбрейків.
Контекст
На початку червня Anthropic була змушена відключити моделі Mythos 5 та Fable 5 після запровадження нових експортних обмежень США. Влада побоювалася, що найпотужніші системи штучного інтелекту можуть бути використані військовими або розвідувальними структурами Китаю, Росії та інших країн, які Вашингтон вважає потенційними загрозами.
Того ж дня OpenAI також повідомила, що на прохання уряду США відкладає повноцінний публічний запуск GPT-5.6. Наразі модель доступна лише обмеженому колу перевірених партнерів.
Рішення уряду викликало критику з боку правозахисників та представників галузі. Вони заявляють, що влада фактично самостійно визначає, які компанії можуть отримати доступ до передових моделей ШІ, не пояснюючи критеріїв такого відбору.
В кінці черрвня адміністрація президента США Дональда Трампа дозволила компанії Anthropic відновити доступ до моделі штучного інтелекту Claude Mythos 5 для обмеженого кола «довірених» американських організацій.
