Американська ШІ-компанія Anthropic попередила потенційних інвесторів, що розвиток її технологій може становити «екзистенційний ризик для людства». Попередження містяться в проєкті проспекту IPO, який Anthropic останніми днями поширила серед обмеженого кола партнерів, пише FT.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Деталі
- Майже третина документа присвячена факторам ризику, серед яких можливість того, що дедалі потужніші моделі ШІ зможуть маніпулювати людьми, шантажувати їх або демонструвати іншу непередбачувану поведінку.
- Окремим ризиком Anthropic назвала високу концентрацію клієнтів: майже чверть торішньої виручки припадала лише на двох клієнтів.
- Компанія уклала угоди про отримання обчислювальних потужностей із Google, SpaceX та низкою менших партнерів. Загалом Anthropic планує витратити $518 млрд на хмарні сервіси, обчислення та інфраструктурні зобов’язання в найближчі роки.
- Водночас фінансові показники компанії демонструють високу вартість розвитку передових моделей ШІ. У 2025 році Anthropic отримав майже $4,6 млрд виручки – у 12 разів більше, ніж роком раніше. Операційні витрати зросли майже до $13 млрд, а операційний збиток перевищив $8 млрд через значні витрати на обчислювальні потужності.
- У другому кварталі 2026 року виторг Anthropic досяг $11,5 млрд. Компанія розраховує другий квартал поспіль отримати операційний прибуток на скоригованій основі.
Контекст
Попередження Anthropic зʼявилися на тлі посилення дискусії про безпеку передових моделей ШІ. Гендиректор компанії Даріо Амодеї минулого тижня заявив у Раді Безпеки ООН, що ШІ може становити загрозу для людства і є «найважливішим глобальним питанням безпеки» у світі.
Цього місяця Амодеї закликав технологічну галузь «стримувати темпи» розвитку найпотужніших моделей. Його пропозицію підтримали керівник OpenAI Сем Альтман та Ілон Маск.
Побоювання щодо безпеки ШІ посилилися після низки інцидентів із ШІ-агентами. Минулого тижня OpenAI повідомила, що її інструменти зламали десятки зовнішніх сайтів, зокрема державних. У понеділок компанія відклала запланований на наступний місяць реліз нової моделі, пославшись на міркування безпеки.
Компанія-розробник Claude планує вийти на біржу Nasdaq цієї осені. За даними FT, її оцінка на останньому раунді фінансування у травні становила близько $1 трлн, але інвестори Anthropic розраховують на оцінку понад $2 трлн під час IPO.
