Категория: Новости
Дата: 13 июля 2023 14:32

Федеральная торговая комиссия США начала расследование по поводу OpenAI – WP

Анита Прасад

Forbes

2 хв читання

Федеральная торговая комиссия (FTC) начала широкое расследование в отношении OpenAI, выясняя, не нарушил ли разработчик ChatGPT законы о защите прав потребителей, пишет The Washington Post.

Ключевые факты

FTC на этой неделе направила компании 20-страничный запрос на отчеты о том, как стартап OpenAI устраняет риски, связанные с его моделями ИИ, согласно документу, пересмотренному изданием.
Ранее Федеральная торговая комиссия неоднократно предупреждала, что законы о защите прав потребителей применяются к ИИ, даже несмотря на то, что администрация и Конгресс изо всех сил пытаются наметить новые правила. Требования FTC к OpenAI являются первым признаком того, как она намерена применять эти предупреждения. Если комиссия обнаружит, что компания нарушает законы о защите прав потребителей, она может наложить штраф или ввести регулирование обработки данных.
FTC уже налагала большие штрафы на Meta, Amazon и Twitter за возможные нарушения законов о защите прав потребителей.
FTC призвала OpenAI предоставить подробное описание всех жалоб, которые она получила на свои продукты, делающие «ложные, обманчивые, пренебрежительные или причиняющие вред» заявления о людях. Согласно документу, FTC расследует, предпринимала ли компания недобросовестные действия в отношении потребителей или вводящие в заблуждение и приводящие к «репутационному ущербу».
Комиссия также попросила компанию предоставить записи, связанные с инцидентом безопасности, о котором компания сообщила в марте, когда ошибка в ее системах позволила некоторым пользователям видеть информацию, связанную с платежами, а также некоторые данные по истории чатов других пользователей.
Орган в своем запросе также попросил компанию предоставить подробную информацию о своих продуктах и о том, как она рекламирует их. Он также требовал подробности политики и процедур, которые OpenAI принимает перед выпуском любого нового продукта для широкой публики, включая список случаев, когда OpenAI сдерживала большую языковую модель из-за рисков безопасности.
FTC также требует подробного описания данных, которые OpenAI использует для обучения своих продуктов, имитирующих человеческий язык, заимствуя текст в основном из Википедии, Scribd и других сайтов в открытой сети. Агентство также попросило OpenAI описать, как оно совершенствует свои модели, чтобы справиться с их склонностью к «галлюцинациям», то есть сочинения ответов, когда ИИ не знают, как реагировать на вопросы.

Контекст

Технологическая индустрия разрабатывает ИИ уже много лет, но в прошлом году эта технология получила большее распространение, когда OpenAI выпустила ChatGPT. Бесплатный чат-бот может быстро ответить практически на любой вопрос.

Выпуск ChatGPT положил начало гонке среди технологических компаний, таких как Google и Microsoft, за создание аналогичных технологий. В середине марта компания OpenAI представила четвертую версию языковой модели ChatGPT.

После этого более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ составляют «серьезные риски для общества и человечества». Через несколько дней 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта, академического сообщества с 40-летней историей, выпустили собственное письмо с предупреждением о рисках, связанных с ИИ.

Недавно 350 технических руководителей и ученых, занимающихся искусственным интеллектом, забили тревогу по поводу технологии, подчеркнув в совместном заявлении, что она является таким же большим риском, как пандемия и ядерная война. Среди подписавших заявление – Сэм Альтман, гендиректор OpenAI.

Материалы по теме