Федеральная торговая комиссия (FTC) начала широкое расследование в отношении OpenAI, выясняя, не нарушил ли разработчик ChatGPT законы о защите прав потребителей, пишет The Washington Post.
Ключевые факты
- FTC на этой неделе направила компании 20-страничный запрос на отчеты о том, как стартап OpenAI устраняет риски, связанные с его моделями ИИ, согласно документу, пересмотренному изданием.
- Ранее Федеральная торговая комиссия неоднократно предупреждала, что законы о защите прав потребителей применяются к ИИ, даже несмотря на то, что администрация и Конгресс изо всех сил пытаются наметить новые правила. Требования FTC к OpenAI являются первым признаком того, как она намерена применять эти предупреждения. Если комиссия обнаружит, что компания нарушает законы о защите прав потребителей, она может наложить штраф или ввести регулирование обработки данных.
- FTC уже налагала большие штрафы на Meta, Amazon и Twitter за возможные нарушения законов о защите прав потребителей.
- FTC призвала OpenAI предоставить подробное описание всех жалоб, которые она получила на свои продукты, делающие «ложные, обманчивые, пренебрежительные или причиняющие вред» заявления о людях. Согласно документу, FTC расследует, предпринимала ли компания недобросовестные действия в отношении потребителей или вводящие в заблуждение и приводящие к «репутационному ущербу».
- Комиссия также попросила компанию предоставить записи, связанные с инцидентом безопасности, о котором компания сообщила в марте, когда ошибка в ее системах позволила некоторым пользователям видеть информацию, связанную с платежами, а также некоторые данные по истории чатов других пользователей.
- Орган в своем запросе также попросил компанию предоставить подробную информацию о своих продуктах и о том, как она рекламирует их. Он также требовал подробности политики и процедур, которые OpenAI принимает перед выпуском любого нового продукта для широкой публики, включая список случаев, когда OpenAI сдерживала большую языковую модель из-за рисков безопасности.
- FTC также требует подробного описания данных, которые OpenAI использует для обучения своих продуктов, имитирующих человеческий язык, заимствуя текст в основном из Википедии, Scribd и других сайтов в открытой сети. Агентство также попросило OpenAI описать, как оно совершенствует свои модели, чтобы справиться с их склонностью к «галлюцинациям», то есть сочинения ответов, когда ИИ не знают, как реагировать на вопросы.
Контекст
Технологическая индустрия разрабатывает ИИ уже много лет, но в прошлом году эта технология получила большее распространение, когда OpenAI выпустила ChatGPT. Бесплатный чат-бот может быстро ответить практически на любой вопрос.
Выпуск ChatGPT положил начало гонке среди технологических компаний, таких как Google и Microsoft, за создание аналогичных технологий. В середине марта компания OpenAI представила четвертую версию языковой модели ChatGPT.
После этого более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ составляют «серьезные риски для общества и человечества». Через несколько дней 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта, академического сообщества с 40-летней историей, выпустили собственное письмо с предупреждением о рисках, связанных с ИИ.
Недавно 350 технических руководителей и ученых, занимающихся искусственным интеллектом, забили тревогу по поводу технологии, подчеркнув в совместном заявлении, что она является таким же большим риском, как пандемия и ядерная война. Среди подписавших заявление – Сэм Альтман, гендиректор OpenAI.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
