Генеральный секретарь ООН Антониу Гутерреш поддержал предложение некоторых руководителей в области искусственного интеллекта о создании международного органа по наблюдению за искусственным интеллектом, такого как Международное агентство по атомной энергии (МАГАТЭ), пишет Reuters.
Amazon інвестує мільярди доларів у ШІ, роботів та машинне навчання. Якими принципами й правилами керується компанія?
Дізнайтеся вже 22 листопада на Forbes Tech 2024. Купуйте квиток за посиланням!
Ключевые факты
- Технология генеративного искусственного интеллекта покорила общество с момента запуска ChatGPT шесть месяцев назад, в то же время ИИ стал предметом беспокойства из-за его способности создавать поддельные изображения и другую дезинформацию.
- «Тревожные звоночки относительно новой формы искусственного интеллекта – генеративного ИИ – оглушительные. И они громче всего звучат от разработчиков, которые его разработали, – сказал Гутерреш. – Мы должны серьезно отнестись к этим предупреждениям».
- Он объявил о планах начать до конца года работу над консультативным органом высокого уровня по ИИ, который будет регулярно пересматривать механизмы управления ИИ и предлагать рекомендации о том, как они могут соответствовать правам человека, верховенству закона и общему благу.
- В понедельник, 12 июня, он добавил: «Я одобрил бы идею создания агентства искусственного интеллекта… вдохновленного тем, чем сегодня является Международное агентство по атомной энергии».
- Гутерреш сказал, что такая модель может быть очень интересна, но отметил, что ее могут создать только государства-члены, а не Секретариат Организации Объединенных Наций.
Контекст
Выпуск ChatGPT положил начало гонке среди технологических компаний, таких как Google и Microsoft, за создание аналогичных технологий. В середине марта компания OpenAI представила четвертую версию языковой модели ChatGPT.
После этого более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ составляют «серьезные риски для общества и человечества». Через несколько дней 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта, академического общества с 40-летней историей, выпустили собственное письмо с предупреждением о рисках, связанных с ИИ.
Недавно 350 технических руководителей и ученых, занимающихся искусственным интеллектом, забили тревогу по поводу технологии, подчеркнув в совместном заявлении, что она является таким же большим риском, как пандемия и ядерная война, пишет The Wall Street Journal. Среди подписантов заявления – Сэм Альтман, гендиректор OpenAI.
Автор ChatGPT – компания OpenAI – заявила в прошлом месяце, что такой орган, как МАГАТЭ, может устанавливать ограничения на развертывание, проверять соблюдение стандартов безопасности и отслеживать использование вычислительной мощности.
Премьер-министр Великобритании Риши Сунак также поддержал эту идею и сказал, что хочет, чтобы его страна стала домом для глобального регулирования безопасности ИИ. В конце этого года Великобритания должна провести саммит, посвященный тому, как скоординированные международные действия могут преодолеть риски, связанные с искусственным интеллектом.
Гутерреш сказал, что поддерживает план саммита в Великобритании, но отметил, что ему должна предшествовать «серьезная работа». Он подчеркнул, что планирует назначить в ближайшие дни научно-консультативный совет экспертов по искусственному интеллекту и главных ученых из агентств ООН.
В Международном валютном фонде предупреждают о риске «существенных сбоев на рынках труда», связанных с генеративным искусственным интеллектом, и призывают политиков быстро разработать правила управления новой технологией, сказала первая заместитель директора фонда Гита Гопинат в интервью Financial Times.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
