Президент США Дональд Трамп та керівники найбільших технологічних компаній – розробників штучного інтелекту – підписали угоду про посилення заходів контролю за моделями штучного інтелекту, пише Reuters.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Усередині — рейтинг «202 найбільші приватні компанії», 25 найдорожчих брендів України, зміна керівників у великому бізнесі, 10 перспективних косметичних брендів та 58 нових ресторанів у спецпроєкті «Смак країни».
Деталі
- Про домовленості Трамп заявив після зустрічі з керівниками технологічних компаній у Білому домі. Угода передбачає, що компанії працюватимуть з «незалежними аудиторами», які оцінюватимуть, чи працюють системи ШІ відповідно до задумів їхніх розробників.
- Компанії зобовʼязалися створювати механізми, які не дозволятимуть ШІ-інструментам «зламувати або отримувати доступ до технічних систем ненавмисними способами». Гендиректор Meta Марк Цукерберг заявив, що учасники домовилися розробити «надійні внутрішні механізми контролю» за роботою ШІ.
- На зустрічі були присутні керівники OpenAI Грег Брокман, Anthropic Даріо Амодей, Meta Марк Цукерберг, Google Сундар Пічаї та Nvidia Дженсен Хуанг.
- Трамп порівняв домовленість із «конституцією» та назвав її формою захисту від ризиків, повʼязаних зі штучним інтелектом. Він повідомив, що розглядає створення ради з 10 осіб, яка контролюватиме безпеку ШІ-інструментів. Її можливий склад президент не уточнив. За його словами, невдовзі буде призначений новий посадовець, відповідальний за політику Білого дому у сфері ШІ.
- Водночас Трамп підтвердив підтримку швидкого розширення мережі дата-центрів, необхідних для навчання та роботи ШІ-моделей. Їхнє будівництво викликає спротив у частині американських громад через зростання попиту на електроенергію, можливе підвищення витрат на комунальні послуги та інші локальні наслідки.
- Президент заявив, що технологічні компанії мають зробити громади «задоволеними» будівництвом дата-центрів, зокрема через значні інвестиції в місцеві спільноти. Суперечки навколо дата-центрів можуть стати політичним питанням для республіканців напередодні проміжних виборів у США 3 листопада.
Контекст
Зустріч відбулася на тлі посилення уваги до ризиків автономних ШІ-агентів. За даними опитування Reuters/Ipsos, проведеного 17–20 вересня, 73% американців вважають, що компанії у сфері ШІ роблять недостатньо для запобігання серйозній шкоді від технології. Ще 55% опитаних заявили, що уповільнення розвитку ШІ було б позитивним кроком.
Цього місяця очільник Anthropic закликав технологічну галузь «стримувати темпи» розвитку найпотужніших моделей. Його пропозицію підтримали гендиректор OpenAI Сем Альтман та Ілон Маск.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Побоювання щодо безпеки ШІ посилилися після низки інцидентів із ШІ-агентами. Минулого тижня OpenAI повідомила, що її інструменти зламали десятки зовнішніх сайтів, зокрема державних. Компанія відклала запланований на наступний місяць реліз нової моделі, пославшись на міркування безпеки.