Американская компания Anthropic, разработчик ИИ-модели Claude, призвала всю отрасль замедлить разработку новых моделей. По мнению соучредителя Джека Кларка, модели находятся на пороге рекурсивного саморазвития, что может нести риски для человечества.
Новое приложение: вовремя о главном без чужих алгоритмов
Мы предлагаем концентрат бизнес-знаний по более чем 40 направлениям. В приложении удобно читать или слушать Forbes Ukraine в любых условиях, даже офлайн
Детали
- Джек Кларк и руководитель внутреннего исследовательского института Марина Фаваро утверждают, что современные ИИ-модели быстро приближаются к порогу так называемого рекурсивного самосовершенствования.
- Компания-создатель Claude выделяет три ступени эволюции больших моделей, которые прошла с 2023 года, – чат-бот, агент-помощник кодера и автономный агент.
- Следующий этап – замкнутый цикл разработки: «агенты, способные самостоятельно создавать и обучать собственные модели». Сейчас у Claude 80% кода сгенерировано самим ИИ, до 100% остался год-два.
- Речь идет о вероятной ситуации, когда системы ИИ смогут улучшать собственные возможности без вмешательства человека, и этот момент может наступить раньше, чем большинство государственных и общественных институтов будут к нему готовы.
- Anthropic предлагает разработать международное соглашение, которое бы позволило координировать возможное замедление развития ИИ и проверять, придерживаются ли участники договоренностей.
- Добровольные ограничения маловероятны, признает Anthropic: «скрыть обучение новой модели гораздо проще, чем строительство ракетной шахты», а любой участник гонки, который не пожелал остановиться, получит шанс вырваться вперед.
- Однако отрасли нужны рамки, считает Кларк: «Сейчас все выглядит так, что отрасль имеет педаль газа, но не имеет педали тормоза».
Контекст
Anthropic готовится к IPO с оценкой около $1 млрд. Компания систематически подает себя как наиболее ответственного среди конкурентов разработчика ИИ.
Anthropic основана в 2021 году бывшими топ-менеджерами OpenAI – братом и сестрой Дарио и Даниэлой Амодей, состояние каждого из которых Forbes оценивает в $7 млрд.
Журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Всего с момента основания компания привлекла более $130 млрд. Недавно Anthropic заключил соглашение со SpaceX Илона Маска об использовании суперкомпьютера Colossus для обучения моделей.
Claude вырос с 1% мировых загрузок ИИ-приложений в каждом квартале прошлого года до 14% во втором квартале 2026-го. ChatGPT за тот же период упал с 67% до 47%.
В апреле 2026 года Anthropic представил модель Mythos, вызвавшую беспокойство правительств и части бизнеса из-за потенциальных возможностей обхода современных киберзащит и рисков для финансовой системы. Из-за этого доступ к модели был частично ограничен.
Параллельно компания судится с Пентагоном, который объявил ее риском для национальной безопасности, после того как она отказала в неограниченном доступе к своим моделям.
29 мая Anthropic привлек $65 млрд финансирования в раунде серии H и теперь оценивается в $965 млрд, больше чем OpenAI. Создатель Claude впервые обогнал своего главного конкурента по стоимости.
