Федеральная торговая комиссия (FTC) начала широкое расследование в отношении OpenAI, выясняя, не нарушил ли разработчик ChatGPT законы о защите прав потребителей, пишет The Washington Post.
Велика війна пришвидшила вихід жінок на лідерські ролі. Вже 15 травня на форумі «Вільна» Forbes пропонує подивитися на це явище крізь нову, чітку оптику. Спікерки та спікери з Superhumans, Google, ENKO, McDonald’s, G. Bar та інших. Купуйте квитки за посиланням.
Ключевые факты
- FTC на этой неделе направила компании 20-страничный запрос на отчеты о том, как стартап OpenAI устраняет риски, связанные с его моделями ИИ, согласно документу, пересмотренному изданием.
- Ранее Федеральная торговая комиссия неоднократно предупреждала, что законы о защите прав потребителей применяются к ИИ, даже несмотря на то, что администрация и Конгресс изо всех сил пытаются наметить новые правила. Требования FTC к OpenAI являются первым признаком того, как она намерена применять эти предупреждения. Если комиссия обнаружит, что компания нарушает законы о защите прав потребителей, она может наложить штраф или ввести регулирование обработки данных.
- FTC уже налагала большие штрафы на Meta, Amazon и Twitter за возможные нарушения законов о защите прав потребителей.
- FTC призвала OpenAI предоставить подробное описание всех жалоб, которые она получила на свои продукты, делающие «ложные, обманчивые, пренебрежительные или причиняющие вред» заявления о людях. Согласно документу, FTC расследует, предпринимала ли компания недобросовестные действия в отношении потребителей или вводящие в заблуждение и приводящие к «репутационному ущербу».
- Комиссия также попросила компанию предоставить записи, связанные с инцидентом безопасности, о котором компания сообщила в марте, когда ошибка в ее системах позволила некоторым пользователям видеть информацию, связанную с платежами, а также некоторые данные по истории чатов других пользователей.
- Орган в своем запросе также попросил компанию предоставить подробную информацию о своих продуктах и о том, как она рекламирует их. Он также требовал подробности политики и процедур, которые OpenAI принимает перед выпуском любого нового продукта для широкой публики, включая список случаев, когда OpenAI сдерживала большую языковую модель из-за рисков безопасности.
- FTC также требует подробного описания данных, которые OpenAI использует для обучения своих продуктов, имитирующих человеческий язык, заимствуя текст в основном из Википедии, Scribd и других сайтов в открытой сети. Агентство также попросило OpenAI описать, как оно совершенствует свои модели, чтобы справиться с их склонностью к «галлюцинациям», то есть сочинения ответов, когда ИИ не знают, как реагировать на вопросы.
Контекст
Технологическая индустрия разрабатывает ИИ уже много лет, но в прошлом году эта технология получила большее распространение, когда OpenAI выпустила ChatGPT. Бесплатный чат-бот может быстро ответить практически на любой вопрос.
Выпуск ChatGPT положил начало гонке среди технологических компаний, таких как Google и Microsoft, за создание аналогичных технологий. В середине марта компания OpenAI представила четвертую версию языковой модели ChatGPT.
После этого более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ составляют «серьезные риски для общества и человечества». Через несколько дней 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта, академического сообщества с 40-летней историей, выпустили собственное письмо с предупреждением о рисках, связанных с ИИ.
Недавно 350 технических руководителей и ученых, занимающихся искусственным интеллектом, забили тревогу по поводу технологии, подчеркнув в совместном заявлении, что она является таким же большим риском, как пандемия и ядерная война. Среди подписавших заявление – Сэм Альтман, гендиректор OpenAI.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
