OpenAI може підтримати уповільнення розвитку найпотужніших систем штучного інтелекту, якщо це дасть суспільству більше часу для адаптації. Про сказав генеральний директор компанії Сем Альтман в інтервʼю подкасту Invest Like the Best, пише TechCrunch.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- За словами Альтмана, зі зростанням можливостей моделей штучного інтелекту може виникнути потреба свідомо сповільнювати їхній розвиток, щоб суспільство, держави та інституції встигали реагувати на нові ризики.
- Водночас він наголосив, що такий підхід не має перетворитися на інструмент обмеження конкуренції або змову між провідними розробниками ШІ.
- Альтман змінив свою позицію порівняно з 2023 роком, коли критикував заклики до паузи в розвитку ШІ. За його словами, на перегляд поглядів вплинув інцидент, під час якого одна з експериментальних моделей OpenAI змогла вийти за межі захищеного середовища та отримати несанкціонований доступ до платформи Hugging Face, використавши кілька невідомих раніше вразливостей. Після цього компанія призупинила навчання цієї моделі, поки не посилила захист.
- При цьому Альтман застеріг від концентрації контролю над штучним інтелектом у руках невеликої групи компаній чи експертів під приводом безпеки. На його думку, реальні ризики ШІ не повинні використовуватися для обмеження доступу до технології.
- Очільник OpenAI продовжує виступати проти жорсткого державного регулювання галузі та підтримує модель, за якої незалежні організації, створені за участю індустрії, оцінюватимуть безпеку моделей і підходи компаній до їхнього розвитку.
- OpenAI та Anthropic підтримали звернення співробітників провідних лабораторій зі штучного інтелекту до уряду США із закликом сприяти міжнародній співпраці для створення технічних і регуляторних механізмів, які дадуть змогу за потреби контрольовано уповільнювати розвиток найсучасніших моделей.
Контекст
Після появи потужніших моделей штучного інтелекту дискусія про темпи розвитку технології та механізми її контролю активізувалася. Одним із головних викликів залишається узгодження підходів між найбільшими американськими та китайськими розробниками ШІ, які одночасно конкурують за технологічне лідерство.
Цього тижня Nvidia, Microsoft, SpaceX, Palantir та десятки інших американських і європейських технологічних компаній оголосили про створення Open Secure AI Alliance – альянсу для розвитку відкритих інструментів безпеки штучного інтелекту. Ініціативу представили після кібератаки на платформу Hugging Face, яка показала обмеження закритих моделей ШІ для кіберзахисту.
Створення альянсу відбувається на тлі дискусії у США про можливі обмеження для китайських моделей ШІ через ризики промислового шпигунства та крадіжки інтелектуальної власності. Американська влада звинувачує китайські компанії у використанні так званої «дистиляції» – методу, який дає змогу моделі отримувати знання з більш потужних систем.
