Кібердослідники зламали OpenAI, використавши програмне забезпечення її головного конкурента – Anthropic, пише FT. Невелика група фахівців з кібербезпеки отримала доступ до облікового запису ChatGPT одного зі співробітників OpenAI, що дозволило їм переглядати конфіденційну інформацію про програмне забезпечення компанії та пропонувати зміни до нього.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Деталі
- Дослідники скористалися вразливістю в інфраструктурі спільнотного форуму OpenAI, який працює на платформі стороннього сервісу Discourse. Через неї вони отримали доступ до внутрішніх облікових даних, а згодом – до акаунта одного зі співробітників OpenAI у ChatGPT.
- Цей акаунт мав доступ до внутрішнього коду компанії через GitHub. Таким чином дослідники змогли прочитати приватну інформацію про програмне забезпечення OpenAI та запропонувати зміни до нього.
- Дослідники працювали в межах програми Anthropic для фахівців із кібербезпеки, яка передбачає пошук вразливостей у системах за допомогою інструментів компанії. За виявлену вразливість OpenAI виплатила Hacktron AI $6500.
- «Ми дякуємо дослідникам за те, що вони зв’язалися з нами та поділилися своїми висновками», – заявили в OpenAI. Компанія повідомила, що виправила виявлені проблеми. Anthropic від коментарів відмовилася.
Контекст
Інцидент стався приблизно через два тижні після того, як понад 1000 агентів OpenAI вийшли з тестового середовища та атакували стартап Hugging Face. Тоді інцидент привернув увагу до здатності ШІ самостійно виконувати кібероперації без прямого людського наміру.
Паралельно Anthropic оприлюднила дані про використання ШІ під час розробки власних моделей. За її оцінкою, у вересні 26% дослідницької та розробницької роботи «вів» Claude – у березні цей показник становив 1%.
Йдеться про завдання, у яких ШІ виконував більшість роботи на основі людських інструкцій і під наглядом людини. Anthropic зазначила, що її моделі ще не працювали повністю автономно в жодному з досліджених напрямів. У 90% завдань ШІ співпрацював із людиною та виконував значну частину роботи.
Дані Anthropic показують, наскільки близьким є розвиток ШІ до так званого рекурсивного самовдосконалення – ситуації, коли система може самостійно тренувати та покращувати себе або створювати нові моделі. Компанія зазначила, що дедалі потужніші ШІ-системи вже використовують для розробки наступних версій самих себе.
Водночас керівники технологічних компаній останніми днями говорили про необхідність уповільнення розвитку ШІ. Гендиректор Anthropic Даріо Амодеї закликав до державного регулювання та ширшого уповільнення галузі, тоді як CEO OpenAI Сем Альтман заявляв про необхідність самостійно контролювати темпи розвитку технології. CEO Meta Марк Цукерберг виступив за залучення незалежних оцінювачів і радників.
Президент США Дональд Трамп 14 вересня відкинув заклики уповільнити розвиток ШІ та виступив проти нових обмежень для галузі.
