Американская компания Anthropic, занимающаяся искусственным интеллектом, предупредила потенциальных инвесторов, что развитие её технологий может представлять «экзистенциальный риск для человечества». Предупреждения содержатся в проекте проспекта IPO, который Anthropic в последние дни распространила среди ограниченного круга партнеров, пишет FT.
Журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Подробности
- Почти треть документа посвящена факторам риска, среди которых – вероятность того, что все более мощные модели ИИ смогут манипулировать людьми, шантажировать их или демонстрировать иное непредсказуемое поведение.
- Отдельным риском Anthropic назвала высокую концентрацию клиентов: почти четверть прошлогодней выручки приходилась всего на двух клиентов.
- Компания заключила соглашения о предоставлении вычислительных мощностей с Google, SpaceX и рядом более мелких партнеров. В целом Anthropic планирует потратить $518 млрд на облачные сервисы, вычисления и инфраструктурные обязательства в ближайшие годы.
- В то же время финансовые показатели компании демонстрируют высокую стоимость разработки передовых моделей ИИ. В 2025 году Anthropic получила почти $4,6 млрд выручки – в 12 раз больше, чем годом ранее. Операционные расходы выросли почти до $13 млрд, а операционный убыток превысил $8 млрд из-за значительных затрат на вычислительные мощности.
- Во втором квартале 2026 года выручка Anthropic достигла $11,5 млрд. Компания рассчитывает второй квартал подряд получить операционную прибыль на скорректированной основе.
Контекст
Предупреждения Anthropic прозвучали на фоне обострения дискуссии о безопасности передовых моделей ИИ. Генеральный директор компании Дарио Амодеи на прошлой неделе заявил в Совете Безопасности ООН, что ИИ может представлять угрозу для человечества и является «важнейшим глобальным вопросом безопасности» в мире.
В этом месяце Амодеи призвал технологическую отрасль «сдерживать темпы» разработки самых мощных моделей. Его предложение поддержали глава OpenAI Сэм Альтман и Илон Маск.
Опасения по поводу безопасности ИИ усилились после ряда инцидентов с ИИ-агентами. На прошлой неделе OpenAI сообщила, что ее инструменты взломали десятки сторонних сайтов, в том числе государственных. В понедельник компания отложила запланированный на следующий месяц выпуск новой модели, сославшись на соображения безопасности.
Компания-разработчик Claude планирует выйти на биржу Nasdaq этой осенью. По данным FT, ее оценка на последнем раунде финансирования в мае составляла около $1 трлн, но инвесторы Anthropic рассчитывают на оценку свыше $2 трлн во время IPO.
