Американська компанія Anthropic, розробник ШІ-моделі Claude, закликала всю галузь сповільнити розробку нових моделей. На думку співзасновника Джека Кларка, моделі знаходяться на порозі рекурсивного саморозвитку, що може нести ризики для людства.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей, бізнеси та ідеї, які вже сьогодні визначають майбутнє країни.
Головні теми:
- «30 до 30» – архітектори нової країни
- 15 перспективних ветеранських компаній
- Війна на виснаження бізнесу
- 20 перспективних франшиз
- Друг України №1 – Говард Баффет і $1,4 млрд допомоги Україні
- Українське мистецтво воєнного часу та феномен Івана Марчука
Традиційно в номері — понад 190 сторінок фірмових історій, аналітики та досліджень Forbes Ukraine.
Деталі
- Джек Кларк та керівниця внутрішнього дослідницького інституту Марина Фаваро стверджують, що сучасні ШІ-моделі швидко наближаються до порогу так званого рекурсивного самовдосконалення.
- Компанія-творець Claude виділяє три щаблі еволюції великих моделей, які пройшла з 2023 року, – чатбот, агент-помічник кодера та автономний агент.
- Наступний етап – замкнена петля розробки: «агенти, здатні самостійно створювати та навчати власні моделі». Зараз у Claude 80% коду згенеровано самим ШІ, до 100% залишився рік-два.
- Йдеться про ймовірну ситуацію, коли системи ШІ зможуть покращувати власні можливості без втручання людини, і цей момент може настати раніше, ніж більшість державних та суспільних інституцій будуть до нього готові.
- Anthropic пропонує розробити міжнародну угоду, яка б дозволила координувати можливе уповільнення розвитку ШІ та перевіряти, чи дотримуються учасники домовленостей.
- Добровільні обмеження малоймовірні, визнає Anthropic: «приховати навчання нової моделі набагато простіше, ніж будівництво ракетної шахти», а будь-який учасник перегонів, який не побажав паузи, отримає шанс вирватися вперед.
- Проте галузі потрібні рамки, вважає Кларк: «Зараз все виглядає так, що галузь має педаль газу, але не має педалі гальма».
Контекст
Anthropic готується до IPO з оцінкою близько $1 млрд. Компанія систематично подає себе як найбільш відповідального серед конкурентів розробника ШІ.
Anthropic заснована в 2021 році колишніми топменеджерами OpenAI – братом і сестрою Даріо та Даніелою Амодей, статок кожного з яких Forbes оцінює у $7 млрд.
Загалом із моменту заснування компанія залучила понад $130 млрд. Нещодавно Anthropic уклав угоду зі SpaceX Ілона Маска про використання суперкомпʼютера Colossus для навчання моделей.
Claude зріс із 1% світових завантажень ШІ-застосунків у кожному кварталі минулого року до 14% у другому кварталі 2026-го. ChatGPT за той самий період впав з 67% до 47%.
У квітні 2026 року Anthropic представив модель Mythos, що викликала занепокоєння урядів і частини бізнесу через потенційні можливості обходу сучасних кіберзахистів і ризики для фінансової системи. Через це доступ до моделі був частково обмежений.
Паралельно компанія судиться з Пентагоном, який оголосив її ризиком для національної безпеки, після того як вона відмовила в необмеженому доступі до своїх моделей.
29 травня Anthropic залучив $65 млрд фінансування у раунді серії H і тепер оцінюється у $965 млрд, більше ніж OpenAI. Творець Claude вперше обігнав свого головного конкурента за вартістю.
Розсилка Forbes AI: штучний інтелект очима тих, хто ризикує грошима
