Администрация президента США Джо Байдена объявила, что более 200 ведущих компаний в области искусственного интеллекта, в том числе OpenAI, Google и другие, присоединились к новому Институту-консорциуму по безопасности ИИ (AISIC), пишет Reuters.
Ключевые факты
- Министр торговли США Джина Раймондо объявила о создании AISIC, включающего OpenAI, Google, Anthropic, Microsoft, Meta Platforms, Apple, Amazon.com, Nvidia, Palantir, Intel, JPMorgan Chase и Bank of America.
- «Правительство США должно играть значительную роль в установлении стандартов и разработке инструментов, необходимых нам для смягчения рисков и использования огромного потенциала искусственного интеллекта», – сказала Раймондо.
- В консорциум входят и BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa, а также крупные научные и правительственные учреждения. Новое объединение будет работать в составе Института безопасности искусственного интеллекта США (USAISI).
- Группе поручено работать над приоритетными действиями, изложенными в октябрьском указе президента Байдена об искусственном интеллекте, включая разработку руководящих принципов, оценку возможностей, управление рисками, безопасность и защиту, а также нанесение водяных знаков на контент.
- Консорциум станет крупнейшей группой по тестированию и оценке и сосредоточится на создании основ для «новой науки об измерениях в области безопасности ИИ».
Контекст
Крупнейшие компании, занимающиеся искусственным интеллектом (ИИ), в прошлом году обязались ставить водяные знаки на контент, созданный ИИ, чтобы сделать технологию более безопасной.
Приказ Байдена предписывал агентствам установить стандарты для этих испытаний и устранить связанные с ними химические, биологические, радиологические, ядерные риски и риски кибербезопасности.
В декабре Министерство торговли заявило, что делает первый шаг к написанию ключевых стандартов и пособий по безопасному развертыванию и тестированию ИИ.
Генеративный ИИ, который может создавать текст, фотографии и видео в ответ на подсказки, вызвал волнение и опасения в обществе. Например, он может сделать некоторые профессии устаревшими, сорвать выборы, потенциально угрожать человечеству и иметь другие негативные последствия.
В то время как администрация Байдена принимает меры предосторожности, попытки Конгресса принять закон, касающийся ИИ, зашли в тупик, несмотря на многочисленные форумы на высоком уровне и законодательные предложения.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
