Президент США Дональд Трамп та керівники найбільших технологічних компаній – розробників штучного інтелекту – підписали угоду про посилення заходів контролю за моделями штучного інтелекту, пише Reuters.
Новий журнал Forbes Ukraine – у продажу з безкоштовною доставкою
Четвертий номер Forbes Ukraine у 2026 році – про людей і бізнеси, які вже сьогодні визначають майбутнє країни. Усередині – «30 до 30», 15 перспективних ветеранських компаній, 20 франшиз із потенціалом зростання, Говард Баффет і $1,4 млрд допомоги Україні, ціна війни для бізнесу та українське мистецтво воєнного часу.
Деталі
- Про домовленості Трамп заявив після зустрічі з керівниками технологічних компаній у Білому домі. Угода передбачає, що компанії працюватимуть з «незалежними аудиторами», які оцінюватимуть, чи працюють системи ШІ відповідно до задумів їхніх розробників.
- Компанії зобовʼязалися створювати механізми, які не дозволятимуть ШІ-інструментам «зламувати або отримувати доступ до технічних систем ненавмисними способами». Гендиректор Meta Марк Цукерберг заявив, що учасники домовилися розробити «надійні внутрішні механізми контролю» за роботою ШІ.
- На зустрічі були присутні керівники OpenAI Грег Брокман, Anthropic Даріо Амодей, Meta Марк Цукерберг, Google Сундар Пічаї та Nvidia Дженсен Хуанг.
- Трамп порівняв домовленість із «конституцією» та назвав її формою захисту від ризиків, повʼязаних зі штучним інтелектом. Він повідомив, що розглядає створення ради з 10 осіб, яка контролюватиме безпеку ШІ-інструментів. Її можливий склад президент не уточнив. За його словами, невдовзі буде призначений новий посадовець, відповідальний за політику Білого дому у сфері ШІ.
- Водночас Трамп підтвердив підтримку швидкого розширення мережі дата-центрів, необхідних для навчання та роботи ШІ-моделей. Їхнє будівництво викликає спротив у частині американських громад через зростання попиту на електроенергію, можливе підвищення витрат на комунальні послуги та інші локальні наслідки.
- Президент заявив, що технологічні компанії мають зробити громади «задоволеними» будівництвом дата-центрів, зокрема через значні інвестиції в місцеві спільноти. Суперечки навколо дата-центрів можуть стати політичним питанням для республіканців напередодні проміжних виборів у США 3 листопада.
Контекст
Зустріч відбулася на тлі посилення уваги до ризиків автономних ШІ-агентів. За даними опитування Reuters/Ipsos, проведеного 17–20 вересня, 73% американців вважають, що компанії у сфері ШІ роблять недостатньо для запобігання серйозній шкоді від технології. Ще 55% опитаних заявили, що уповільнення розвитку ШІ було б позитивним кроком.
Цього місяця очільник Anthropic закликав технологічну галузь «стримувати темпи» розвитку найпотужніших моделей. Його пропозицію підтримали гендиректор OpenAI Сем Альтман та Ілон Маск.
Побоювання щодо безпеки ШІ посилилися після низки інцидентів із ШІ-агентами. Минулого тижня OpenAI повідомила, що її інструменти зламали десятки зовнішніх сайтів, зокрема державних. Компанія відклала запланований на наступний місяць реліз нової моделі, пославшись на міркування безпеки.
