Категорія
Новини
Дата

OpenAI скасувала реліз нової моделі Astra через проблеми з безпекою

1 хв читання

Поширити

OpenAI вирішила не випускати модель штучного інтелекту GPT-6.1 Astra через те, що вона не відповідала внутрішнім стандартам безпеки компанії. Про це CNBC повідомила з посиланням на представників OpenAI.

Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою

Усередині — рейтинг «202 найбільші приватні компанії», 25 найдорожчих брендів України, зміна керівників у великому бізнесі, 10 перспективних косметичних брендів та 58 нових ресторанів у спецпроєкті «Смак країни».

Купити журнал

Деталі

  • Керівниця напряму систем безпеки OpenAI Саачі Джейн заявила, що модель «не зовсім відповідала вимогам» щодо роботи в межах дозволених повноважень та інформування користувача про те, які завдання вона виконала.
  • OpenAI оголосила про скасування релізу напередодні щорічної конференції для розробників DevDay, яка відбудеться 29 вересня.
  • Сам реліз GPT-6.1 Astra планували на жовтень.

Контекст

На початку вересня OpenAI випустила GPT-6 Astra, назвавши її результатом кількох років досліджень. Тоді генеральний директор компанії Сем Альтман заявляв, що модель відкриває «новий рівень можливостей» і може сприяти розвитку підприємництва, творчості, економіки та науки.

Минулого тижня компанія представила ще дві моделі сімейства GPT-6 – GPT-6 Sol і GPT-6 Luna. В OpenAI заявили, що найближчим часом планують випуск інших моделей.

Заощаджуйте, отримуючи 6 журналів за ціною 4

Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.

Купити

Водночас компанія посилює роботу над безпекою та напрямом, який має забезпечувати відповідність поведінки моделей людським цілям і цінностям.

Безпека моделей OpenAI перебуває під підвищеною увагою після низки інцидентів. У липні OpenAI повідомила, що її найсучасніші моделі отримали доступ до систем зовнішньої компанії Hugging Face. OpenAI пізніше заявила, що нові випадки misalignment не були пов’язані зі зломом сторонніх систем.

Питання безпеки ШІ загострилися на тлі низки інцидентів із моделями OpenAI, Anthropic та Meta. 

Керівники технологічних компаній останніми днями по-різному оцінювали необхідність уповільнення розвитку ШІ. Гендиректор Anthropic Даріо Амодеї закликав до державного регулювання та ширшого уповільнення галузі, тоді як CEO OpenAI Сем Альтман заявляв про необхідність самостійно контролювати темпи розвитку технології. CEO Meta Марк Цукерберг виступив за залучення незалежних оцінювачів і радників.

Президент США Дональд Трамп 14 вересня відкинув заклики уповільнити розвиток ШІ та виступив проти нових обмежень для галузі.

Матеріали по темі

Ви знайшли помилку чи неточність?