OpenAI вирішила не випускати модель штучного інтелекту GPT-6.1 Astra через те, що вона не відповідала внутрішнім стандартам безпеки компанії. Про це CNBC повідомила з посиланням на представників OpenAI.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Деталі
- Керівниця напряму систем безпеки OpenAI Саачі Джейн заявила, що модель «не зовсім відповідала вимогам» щодо роботи в межах дозволених повноважень та інформування користувача про те, які завдання вона виконала.
- OpenAI оголосила про скасування релізу напередодні щорічної конференції для розробників DevDay, яка відбудеться 29 вересня.
- Сам реліз GPT-6.1 Astra планували на жовтень.
Контекст
На початку вересня OpenAI випустила GPT-6 Astra, назвавши її результатом кількох років досліджень. Тоді генеральний директор компанії Сем Альтман заявляв, що модель відкриває «новий рівень можливостей» і може сприяти розвитку підприємництва, творчості, економіки та науки.
Минулого тижня компанія представила ще дві моделі сімейства GPT-6 – GPT-6 Sol і GPT-6 Luna. В OpenAI заявили, що найближчим часом планують випуск інших моделей.
Водночас компанія посилює роботу над безпекою та напрямом, який має забезпечувати відповідність поведінки моделей людським цілям і цінностям.
Безпека моделей OpenAI перебуває під підвищеною увагою після низки інцидентів. У липні OpenAI повідомила, що її найсучасніші моделі отримали доступ до систем зовнішньої компанії Hugging Face. OpenAI пізніше заявила, що нові випадки misalignment не були пов’язані зі зломом сторонніх систем.
Питання безпеки ШІ загострилися на тлі низки інцидентів із моделями OpenAI, Anthropic та Meta.
Керівники технологічних компаній останніми днями по-різному оцінювали необхідність уповільнення розвитку ШІ. Гендиректор Anthropic Даріо Амодеї закликав до державного регулювання та ширшого уповільнення галузі, тоді як CEO OpenAI Сем Альтман заявляв про необхідність самостійно контролювати темпи розвитку технології. CEO Meta Марк Цукерберг виступив за залучення незалежних оцінювачів і радників.
Президент США Дональд Трамп 14 вересня відкинув заклики уповільнити розвиток ШІ та виступив проти нових обмежень для галузі.
Розсилка Forbes AI: штучний інтелект очима тих, хто ризикує грошима
