США, Великобритания и ряд других стран 26 ноября обнародовали первое международное соглашение о защите искусственного интеллекта от мошенников, пишет Reuters.
Ключевые факты
- Документ на 20 страниц в общей сложности подписали 18 стран, включая Германию, Италию, Чехию, Эстонию, Польшу, Австралию, Чили, Израиль, Нигерию и Сингапур.
- Страны согласились, что компании, разрабатывающие и использующие ИИ, должны разрабатывать и внедрять его таким образом, чтобы обезопасить клиентов и широкую общественность от злоупотреблений.
- Соглашение не имеет обязательной силы и содержит преимущественно общие рекомендации, в частности, мониторинг систем ИИ относительно злоупотреблений, защиты данных от подделки и проверки поставщиков программного обеспечения.
- В документе говорится о том, как защитить технологию ИИ от кражи хакерами, а также содержатся рекомендации, например, выпускать модели только после тестирования по безопасности.
- В то же время соглашение не касается острых вопросов относительно надлежащего использования ИИ или способов сбора данных, питающих эти модели, отмечает издание.
Контекст
Развитие искусственного интеллекта вызвало ряд беспокойств в мире. Речь идет, в частности, о риске, что ИИ может использоваться для подрыва демократии. Также есть опасения, что он приведет к всплеску мошенничества и разрушительного влияния на рынок труда и т. д.
Весной этого года более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ несут «серьезные риски для общества и человечества». Через несколько дней 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта, академического общества с 40-летней историей, выпустили письмо с предупреждением о рисках, связанных с ИИ.
Также забили тревогу 350 технических руководителей и ученых, занимающихся ИИ, подчеркнув в совместном заявлении, что технология является таким же большим риском, как пандемия и ядерная война. Среди подписавшихся заявлений – Сэм Альтман, гендиректор OpenAI.
В своей колонке основатель Microsoft Билл Гейтс писал, что риски, которые несет искусственный интеллект, реальны, но с ними можно справиться.
По данным источников Reuters, накануне увольнения Сэма Альтмана с должности гендиректора OpenAI несколько исследователей компании направили совету директоров письма с предупреждением о более важном открытии в области искусственного интеллекта (ИИ), которое потенциально может угрожать человечеству.
Европа опережает США по вопросу регулирования ИИ. Европейские законодатели уже работают над правилами использования искусственного интеллекта. Франция, Германия и Италия недавно достигли соглашения по регулированию так называемых базовых моделей ИИ, разработанных для получения широкого диапазона результатов.
Администрация президента США Джо Байдена оказывает давление на законодателей в вопросе регулирования ИИ, но поляризованный Конгресс пока мало продвинулся в этом направлении.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
