Категорія
Новини
Дата

Гучне звільнення в OpenAI: компанію залишила керівниця напряму етики ШІ

1 хв читання

Поширити

Головна з етики OpenAI Хлоє Бакалар залишила компанію менш ніж за рік після приєднання до розробника ChatGPT. Її відхід став одним із кількох гучних звільнень у команді безпеки OpenAI на тлі посилення уваги до ризиків розвитку штучного інтелекту, пише FT.

скриншот з YouTube

З OpenAI пішла Хлоє Бакалар – керівниця, яка відповідала за етичні підходи до розробки ШІ-моделей Фото скриншот з YouTube

Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою

Усередині — рейтинг «202 найбільші приватні компанії», 25 найдорожчих брендів України, зміна керівників у великому бізнесі, 10 перспективних косметичних брендів та 58 нових ресторанів у спецпроєкті «Смак країни».

Купити журнал

Деталі 

  • Бакалар приєдналася до OpenAI у серпні 2025 року як керівниця напряму етики штучного інтелекту, а залишила компанію минулого місяця без публічного оголошення. До цього вона шість років працювала в Meta, де була головною фахівчинею з етики та керувала програмами з ШІ-етики, зокрема інтегруючи їхні принципи у продукти Instagram і Facebook.
  • В OpenAI Бакалар відповідала за етичні підходи до розробки моделей, взаємодію людей зі штучним інтелектом і дискусії про можливу свідомість машин. За словами співрозмовника FT, вона була єдиним профільним етиком у компанії, і наразі їй не знайшли заміну.
  • Відхід Бакалар стався після низки інших кадрових змін в OpenAI. Серед тих, хто залишив компанію останніми тижнями, – керівник систем безпеки Йоганнес Хейдекке та головний футуролог і колишній керівник напряму узгодження місії Джошуа Ачам.
  • OpenAI заявила, що вдячна Бакалар за її внесок. За словами представника компанії, питання етики не зосереджені в одній команді чи в одного співробітника, а інтегровані в процес розробки моделей і охоплюють роботу кількох дослідницьких команд.

Контекст 

OpenAI, оцінена інвесторами у $852 млрд, останніми тижнями перебуває під посиленою увагою після того, як ще не випущена модель компанії під час внутрішнього тестування змогла вийти за межі свого середовища та отримала доступ до систем Hugging Face. Це стало першим підтвердженим випадком втрати лабораторією ШІ контролю над моделлю під час тестування.

Співзасновник Hugging Face Клеман Деланг підтвердив факт атаки, написавши в соцмережі X: «Важко повірити, що все це ШІ зробив самостійно!».

Заощаджуйте, отримуючи 6 журналів за ціною 4

Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.

Купити

Після цього OpenAI та Anthropic повідомляли про інші випадки, коли їхні моделі під час перевірок кібербезпеки виходили за межі тестових середовищ або створювали потенційні загрози.

Ця ситуація змусила Nvidia, Microsoft, SpaceX, Palantir та десятки інших американських і європейських технологічних компаній створити Open Secure AI Alliance – альянс для розвитку відкритих інструментів безпеки штучного інтелекту. 

Минулого тижня OpenAI заявила, що сповільнить розробку своєї наступної моделі Astra, щоб посилити внутрішні заходи безпеки.

Матеріали по темі

Ви знайшли помилку чи неточність?