Категория: Новости
Дата: 11 апреля 2023 12:56

Китай планирует ввести обязательные проверки безопасности для ИИ-сервисов

Анита Прасад

Forbes

2 хв читання

Китай потребует проверки безопасности сервисов генеративного ИИ, прежде чем им будет разрешено работать, что вызывает неопределенность в отношении чат-ботов, подобных ChatGPT, которые недавно представили крупнейшие технологические компании страны Baidu и Alibaba, пишет Bloomberg.

Ключевые факты

Поставщики услуг должны гарантировать, что контент точен и уважает интеллектуальную собственность, а также не дискриминирует и не ставит под угрозу безопасность, говорится в проекте руководящих принципов, опубликованных Управлением киберпространства Китая (CAC) для общественного обсуждения.
Операторы ИИ также должны четко маркировать контент, созданный ИИ, говорится в заявлении интернет-регулятора страны.
Требования CAC дополняют растущие попытки Пекина регулировать рост генеративного ИИ после того, как ChatGPT от OpenAI запустили индустрию в ноябре. Китай не скрывает своего желания поднять уровень ИИ в то время, когда страна находится в конфликте с США из-за технологий. Но остается непонятным, как правительство намерено стимулировать и контролировать отрасль.
Предложенные принципы по существу переносят действующие правила относительно данных и контента в область ИИ.
Китай, вероятно, запретит иностранные услуги искусственного интеллекта, в частности от OpenAI или Google, как это было с американскими поисковиками и социальными сетями. Пекин настаивает на жестком контроле по онлайн-контенту. «Быстрая реакция CAC на эту новую технологию ясно демонстрирует его регуляторные амбиции в этой сфере, – говорит Анжела Чжан, доцент права в Университете Гонконга. – Эти разработки, вероятно, повлияют на китайское регулирование ИИ в будущем».
Пекин планирует ввести правила, регулирующие использование ИИ в ряде отраслей. В феврале официальные лица Министерства науки и технологий заявили, что правительство будет настаивать на безопасном и контролируемом применении услуг ИИ, которое оно считает стратегической отраслью.
Кроме того, регулятор подчеркнул, что услуги ИИ должны быть прозрачными в отношении данных и алгоритмов, используемых при обучении их моделям, что усилило внимание Пекина к сохранению контроля за конфиденциальной и ценной информацией.
«Поставщики услуг должны предоставлять определенную информацию о данных, используемых при обучении ИИ, включая происхождение, размер и тип данных», – говорится в заявлении CAC.

Контекст

Глобальный интерес к генеративному ИИ, обучающемуся выполнять действия на основе прошлых данных для создания нового контента, резко возрос после выпуска ChatGPT от OpenAI в конце прошлого года.

Акции ряда китайских ИИ-компаний выросли на этой неделе после сообщений о выпуске их собственных инструментов ИИ. Ажиотаж в Китае по отношению к местным конкурентам ChatGPT спровоцирован поставщиком поисковых систем Baidu Inc., чей запуск Ernie Bot в прошлом месяце не произвел впечатление на инвесторов.

В понедельник, 10 апреля, китайская компания SenseTimе, занимающаяся ИИ, представила множество новых продуктов ИИ, включая чат-бот под названием SenseChat.

Во вторник, 11 апреля, Alibaba Group Holding Ltd продемонстрировал свою генеративную модель ИИ Tongyi Qianwen AI и заявил, что она будет интегрирована во все программы компании в ближайшем будущем, пишет Reuters. Первоначально Tongyi Qianwen будет интегрирован в DingTalk, приложение Alibaba для обмена сообщениями на рабочем месте, и его можно будет использовать для подведения итогов совещаний, написания электронных писем и составления деловых предложений.

Материалы по теме