Американская компания Anthropic, разработчик ИИ-модели Claude, призвала всю отрасль замедлить разработку новых моделей. По мнению соучредителя Джека Кларка, модели находятся на пороге рекурсивного саморазвития, что может нести риски для человечества.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Детали
- Джек Кларк и руководитель внутреннего исследовательского института Марина Фаваро утверждают, что современные ИИ-модели быстро приближаются к порогу так называемого рекурсивного самосовершенствования.
- Компания-создатель Claude выделяет три ступени эволюции больших моделей, которые прошла с 2023 года, – чат-бот, агент-помощник кодера и автономный агент.
- Следующий этап – замкнутый цикл разработки: «агенты, способные самостоятельно создавать и обучать собственные модели». Сейчас у Claude 80% кода сгенерировано самим ИИ, до 100% остался год-два.
- Речь идет о вероятной ситуации, когда системы ИИ смогут улучшать собственные возможности без вмешательства человека, и этот момент может наступить раньше, чем большинство государственных и общественных институтов будут к нему готовы.
- Anthropic предлагает разработать международное соглашение, которое бы позволило координировать возможное замедление развития ИИ и проверять, придерживаются ли участники договоренностей.
- Добровольные ограничения маловероятны, признает Anthropic: «скрыть обучение новой модели гораздо проще, чем строительство ракетной шахты», а любой участник гонки, который не пожелал остановиться, получит шанс вырваться вперед.
- Однако отрасли нужны рамки, считает Кларк: «Сейчас все выглядит так, что отрасль имеет педаль газа, но не имеет педали тормоза».
Контекст
Anthropic готовится к IPO с оценкой около $1 млрд. Компания систематически подает себя как наиболее ответственного среди конкурентов разработчика ИИ.
Anthropic основана в 2021 году бывшими топ-менеджерами OpenAI – братом и сестрой Дарио и Даниэлой Амодей, состояние каждого из которых Forbes оценивает в $7 млрд.
Всего с момента основания компания привлекла более $130 млрд. Недавно Anthropic заключил соглашение со SpaceX Илона Маска об использовании суперкомпьютера Colossus для обучения моделей.
Claude вырос с 1% мировых загрузок ИИ-приложений в каждом квартале прошлого года до 14% во втором квартале 2026-го. ChatGPT за тот же период упал с 67% до 47%.
В апреле 2026 года Anthropic представил модель Mythos, вызвавшую беспокойство правительств и части бизнеса из-за потенциальных возможностей обхода современных киберзащит и рисков для финансовой системы. Из-за этого доступ к модели был частично ограничен.
Параллельно компания судится с Пентагоном, который объявил ее риском для национальной безопасности, после того как она отказала в неограниченном доступе к своим моделям.
29 мая Anthropic привлек $65 млрд финансирования в раунде серии H и теперь оценивается в $965 млрд, больше чем OpenAI. Создатель Claude впервые обогнал своего главного конкурента по стоимости.
Рассылка Forbes AI: искусственный интеллект глазами тех, кто рискует деньгами
