OpenAI разработала инструмент для обнаружения дипфейков на фоне скандалов с влиянием ИИ-контента /Getty Images
Категория
Новости
Дата

OpenAI разработала инструмент для обнаружения дипфейков на фоне скандалов с влиянием ИИ-контента

Getty Images

Компания OpenAI разработала инструмент для определения изображений, сгенерированных DALL-E 3, и тестирует его внутри компании, пишет Reuters. Это происходит на фоне растущего беспокойства по поводу влияния контента, созданного искусственным интеллектом, на глобальные выборы.

⚡️Ми дуже хочемо, щоб наші читачі знали більше, створювали більше і заробляли більше. Тому даруємо 44% знижки на річну підписку на сайт Forbes. Діє з промокодом SMART до 19.05 Оформлюйте зараз за цим посиланням

Ключевые факты

  • OpenAI заявила, что инструмент правильно идентифицировал изображения, созданные DALL-E 3, примерно в 98% случаях.
  • Обрезанные или отредактированные кадры он распознает с меньшей эффективностью, но конкретных показателей OpenAI не раскрывает.
  • Автор ChatGPT также планирует добавить устойчивые к подделке водяные знаки для обозначения цифрового контента, такого как фотографии или аудио, сигналом, который будет трудно удалить.

Контекст

Ранее сообщалось, что техногиганты Google, Microsoft, OpenAI, Meta, TikTok и Adobe планируют подписать соглашение, чтобы выявлять и маркировать созданный искусственным интеллектом контент во время выборов этого года в странах мира.

Компании хотят создать технологию для обнаружения, маркировки и контроля изображений, видео- и аудиозаписей, созданных с помощью ИИ.

В этом месяце в разгар предвыборной кампании в Индии распространение фальшивых видеороликов с участием чиновников правящей партии спровоцировало полицейские расследования и аресты членов оппозиционного Индийского национального конгресса.

Премьер-министр Нарендра Моди назвал это «заговором для создания напряженности в обществе», указав на использование поддельных голосов для имитации заявлений лидеров. Были созданы манипулятивные видео с участием министра внутренних дел Амита Шаха и другого высокопоставленного помощника премьера.

Полиция арестовала по меньшей мере девять человек, в том числе национального координатора соцсетей Конгресса Аруна Редди, за распространение фейковых видео. Аресты вызвали протесты сторонников оппозиции.

Материалы по теме

Вы нашли ошибку или неточность?

Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.

Исправить
Предыдущий слайд
Следующий слайд
Новый выпуск Forbes Ukraine

Заказывайте с бесплатной курьерской доставкой по Украине