Компания OpenAI разработала инструмент для определения изображений, сгенерированных DALL-E 3, и тестирует его внутри компании, пишет Reuters. Это происходит на фоне растущего беспокойства по поводу влияния контента, созданного искусственным интеллектом, на глобальные выборы.
За 107 років існування Forbes логотип змінювався 18 разів, але таким авангардним і вільним світ його бачить вперше. В новому числі журналу Forbes Ukraine: сучасне мистецтво, топ-50 благодійних фондів, альтернативна енергетика, 30 до 30. Замовляйте вже зараз!
Ключевые факты
- OpenAI заявила, что инструмент правильно идентифицировал изображения, созданные DALL-E 3, примерно в 98% случаях.
- Обрезанные или отредактированные кадры он распознает с меньшей эффективностью, но конкретных показателей OpenAI не раскрывает.
- Автор ChatGPT также планирует добавить устойчивые к подделке водяные знаки для обозначения цифрового контента, такого как фотографии или аудио, сигналом, который будет трудно удалить.
Контекст
Ранее сообщалось, что техногиганты Google, Microsoft, OpenAI, Meta, TikTok и Adobe планируют подписать соглашение, чтобы выявлять и маркировать созданный искусственным интеллектом контент во время выборов этого года в странах мира.
Компании хотят создать технологию для обнаружения, маркировки и контроля изображений, видео- и аудиозаписей, созданных с помощью ИИ.
В этом месяце в разгар предвыборной кампании в Индии распространение фальшивых видеороликов с участием чиновников правящей партии спровоцировало полицейские расследования и аресты членов оппозиционного Индийского национального конгресса.
Премьер-министр Нарендра Моди назвал это «заговором для создания напряженности в обществе», указав на использование поддельных голосов для имитации заявлений лидеров. Были созданы манипулятивные видео с участием министра внутренних дел Амита Шаха и другого высокопоставленного помощника премьера.
Полиция арестовала по меньшей мере девять человек, в том числе национального координатора соцсетей Конгресса Аруна Редди, за распространение фейковых видео. Аресты вызвали протесты сторонников оппозиции.
![Обнаженная Тейлор Свифт, звонки от Джо Байдена и мёртвые дети. Как новые случаи дипфейков заставили мир снова говорить о безопасности ИИ и контроле его. Разбор Bloomberg /Фото Shutterstock](https://forbes.ua/static/storage/thumbs/80x80/6/f8/79b2737b-b38d641ad75ba82e47639e4786387f86.jpg?v=3782_7)
![Индустрия дипфейк-порно на подъеме – заключение исследования «ИИ-порно без согласия», опубликованного изданием WIRED. Жертвам такого цифрового контента не до секса. Как остановить эпидемию /Фото Изображение сгенерировано ИИ Midjourney в соавторстве с Анной Наконечной](https://forbes.ua/static/storage/thumbs/80x80/6/cb/3edaf4fe-31de03ebc5bb5fad14f9ce7ca8cbacb6.jpg?v=9502_1)
![ИИ помогает всем, даже мошенникам. Как искусственный интеллект стал новым оружием киберпреступников и стимулировал аферы на $8 млрд /Фото ILLUSTRATION BY CECILIA ZHANG FOR FORBES](https://forbes.ua/static/storage/thumbs/80x80/8/63/88a0f499-84fb332e07fdf64fb0cc8c2d9d8d7638.jpg?v=0577_2)
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.