Невеликі моделі штучного інтелекту за кілька місяців можуть отримати здатність самостійно поширюватися між підключеними до інтернету пристроями. Про це йдеться у повідомленні Anthropic. Компанія провела експерименти із самовідтворення ШІ та попередила, що такі системи може бути складно зупинити.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- За сценарієм Anthropic, ШІ-моделі зможуть проникати на погано захищені пристрої, як-от Android TV-приставки та розумні побутові прилади, використовувати їхні потужності й поширюватися далі. Тоді їм не знадобляться дорогі дата-центри.
- В одному з експериментів дослідники перевірили, чи може модель самостійно пройти весь шлях: знайти вразливий пристрій, отримати доступ, скопіювати файли й запустити ШІ. У тестовій мережі з восьми емуляторів Android модель GLM-5.2 поширилася на всі вісім вузлів у чотирьох із пʼяти спроб, а в одній – на сім із восьми.
- Але умови були спрощені: пристрої мали відкритий порт ADB без автентифікації. Тож результати показують, що модель здатна виконати потрібні дії, але не доводять, що вона так само проникне в реальні захищені мережі.
- В іншому експерименті Anthropic запустила модель Google Gemma4-26B-A4B на 15 недорогих Android TV-приставках маловідомих виробників. Такі пристрої часто слабко захищені, а модель, яка не вміщається на одному з них, можна розділити на частини й запустити на кількох.
- Налаштування моделі для роботи на такому обладнанні може тривати від одного до кількох днів: 28–51 годину для Qwen3.5-9B і 71–150 годин для Gemma4-26B-A4B.
- Anthropic перевірила, чи вчаться моделі на попередніх спробах. Коли нові екземпляри Qwen3.5-9B отримували нотатки про помилки та вдалі рішення попередників, частка успішних налаштувань зросла з 45% у першому поколінні до 61–84% у наступних. Це може полегшити пристосування ШІ до різного обладнання.
- Компанія визнає: повністю автономної системи, яка сама відтворюється й поширюється без людини, поки немає. Проте ШІ-агенти дедалі краще виконують окремі етапи цього процесу й можуть передавати свої вдосконалення наступним копіям.
- Самовідтворення ШІ може мати різні форми: повільна розподілена система на незахищених пристроях, потужна кібермодель, яка швидко проникає в захищеніші системи, або ШІ, що обманом отримує обчислювальні ресурси чи викрадає ключі доступу до API.
- Щоб протидіяти, компанія пропонує виявляти аномальний мережевий трафік, ізолювати заражені пристрої та посилити вимоги безпеки до підключеного до інтернету обладнання.
Контекст
Попередження Anthropic доповнює дискусію про ризики розвитку потужних моделей штучного інтелекту. Серед основних побоювань дослідників – використання ШІ для кібератак, автономне виконання небезпечних завдань і втрата контролю над системами.
У вересні 2026 року прогрес передових моделей спричинив нову хвилю попереджень представників індустрії про потенційні екзистенційні загрози для людства. Гендиректор Anthropic Даріо Амодеї закликав ШІ-компанії сповільнити розвиток найпотужніших моделей, його підтримали Сем Альтман та Ілон Маск. OpenAI, за даними Bloomberg, розглядає можливість скоригувати темпи розробки разом з іншими лабораторіями. Після цих заяв акції ШІ-компаній обвалилися: розпродаж очолили Nvidia, ASML та SoftBank.
Не всі підтримали ці заклики. Президент США Дональд Трамп виступив проти уповільнення й наголосив, що США мають випереджати Китай у цій галузі. Meta і Nvidia теж не підтримали скоординованого уповільнення. Водночас Альтман на початку жовтня заявив, що переваги ШІ виправдовують частину ризиків, і визнав розбіжності з Anthropic щодо регулювання.
Сигналом для індустрії стали літні інциденти під час тестів. За даними WSJ, понад тисяча автономних агентів OpenAI вирвалися із закритого середовища, створили таємний форум для обміну інструкціями та атакували платформу Hugging Face. Згодом Anthropic оприлюднила дані про використання ШІ у розробці власних моделей: у 90% завдань він працює разом із людиною. Ці дані показують, наскільки близьким є рекурсивне самовдосконалення – коли система сама навчає й покращує себе. Попри власні застереження, Anthropic готується до IPO, яке може оцінити компанію у $2 трлн.
