Категория: Инновации
Дата: 30 марта 2023 08:00

Арест Трампа, Макрон на протесте и Папа Римский в пуховике. Как отличить сгенерированное искусственным интеллектом изображение от настоящего

Тома Мироненко

Forbes

4 хв читання

Фото, сгенерированные с помощью ИИ, выложены в соцсети пользователями Twitter, Instagram, Discord, Reddit

В соцсетях и медиа распространяются изображения, сгенерированные программами искусственного интеллекта. Их легко спутать с настоящими фото, однако пока они не безупречны. На что обращать внимание, чтобы не ошибиться.

Увидев в Instagram кадры ареста Дональда Трампа, соучредитель Gathers и член правления AI HOUSE Богдан Пономарь очень удивился. Ему понадобилось несколько секунд, чтобы прийти в себя, приблизить фото и понять: они сгенерированы искусственным интеллектом.

Задержание Трампа визуализировал основатель Bellingcat Элиот Гиггинс – помогла пятая версия платформы Midjourney. Журналиста «вдохновили» новости о возможном аресте Трампа из-за вероятной выплаты денег за молчание порнозвезде Сторми Дэниелс. Гиггинс запостил тред в Twitter, ожидая несколько репостов, вместо этого изображения стали виральными. Они получили охват в 6 млн и почти 40 000 лайков.

Поток сгенерированных искусственным интеллектом изображений в соцсетях и медиа становится все более насыщенным. Среди последних примеров – «фото» Папы Римского в объемном белом пуховике. Оно тоже было создано с помощью Midjourney. Автор изображения Пабло Ксавьер попросил генератор вдохновиться дизайном курток Balenciaga и Moncler.

«Папа в пуховике выглядит довольно реалистично, – признает CEO DevRain и член Forbes Technology Council Александр Краковецкий. – Рядовому гражданину, не очень знакомому с технологиями, уже сейчас может быть сложно отличить настоящее фото от сгенерированного ИИ».

Самые популярные ИИ-платформы, создающие изображения по текстовому описанию, – Midjourney, DALL-E и Stable Diffusion. Но Midjourney – особенно после выхода пятой версии – пользуются чаще всего, считает Пономарь.

Сгенерированные изображения вводят в заблуждение не только рядовых пользователей соцсетей. Недавно Краковецкий увидел в Telegram опрос: настоящий ли перед ним портрет девушки? Будучи не полностью уверенным, он выбрал «сгенерированный». Угадал.

Когда изображения станут достаточно правдоподобными, чтобы одурачить специалистов? Месяцы, возможно, год, считает Краковецкий.

«Впрочем, эти изображения до сих пор не идеальны», – говорит Пономарь.

Как отличить сгенерированное изображение от настоящего фото

Есть детекторы, которые могут определять, было ли фото сгенерировано нейронной сетью. Однако они не покажут, дипфейк ли это, говорит Пономарь. В определении подлинности фото профессионалы пока опираются на визуальные подсказки.

Искусственный интеллект не идеально прорисовывает детали человеческого тела – руки, пальцы, уши, говорит Краковецкий. Если на изображении несколько человек, могут появляться артефакты, например дополнительные конечности. «Если тени и полутона неестественны, недоработаны, скорее всего, изображение сгенерировано», – добавляет он.

Программы искусственного интеллекта не очень хорошо рисуют зрачок глаза, говорит Пономарь. Если приблизить фото, это можно увидеть. Им также сложно сохранять пропорции лица: ИИ ошибается с изображением зубов и может делать их слишком большими, заметил кофаундер Gathers.

Следует обращать внимание на задний план: он часто нереалистичен или размыт, особенно если на бэкграунде надпись. Текст в целом еще не поддается искусственному интеллекту – он размывает буквы и не понимает, как наложить его на другие слои изображения, говорит Пономарь. Пример – «задержание» Трампа: текст на полицейских шевронах невозможно прочитать.

Создав несколько десятков изображений, посвященных аресту экспрезидента США, – даже тех, где он играет в баскетбол на тюремной площадке, – Гиггинс заметил: ИИ фокусируется на основном объекте изображения, а другие люди и предметы вокруг имеют существенные недостатки. Особенно если эти люди – не селебрити: известных персонажей искусственный интеллект рисует более совершенно.

«Я обратил внимание: когда просишь нарисовать выражение лица, Midjourney рисует их в преувеличенном виде: например, очень выраженные складки кожи от улыбки», – говорил Гиггинс Wired.

На то, поверит ли человек в подлинность фото, влияет контекст публикации. После попадания ракеты в дом в Днепре 14 января соцсети облетела картинка с плачущим ребенком. «Было очевидно: фотография сгенерирована, – говорит Краковецкий. – Но многие отказывались в это верить».

Краковецкий напоминает о принципе информационной гигиены: не распространять изображения, подлинность которых не подтверждена. Он вспоминает фото, появившееся после встречи Си Цзиньпина и Владимира Путина – на нем последний как будто стоит на коленях перед китайским лидером. Происхождение этого кадра пока неизвестно.

Исследование Deutsche Welle утверждает, что он был создан искусственным интеллектом. Но спикеры Forbes убеждены: ИИ в этом случае ни при чем. Настоящим фото это не делает. «Нужно понимать: соответствует ли оно контексту, в котором опубликовано, когда было сделано, было ли исправлено в фотошопе», – говорит Краковецкий.

Урегулирована ли публикация сгенерированных ИИ-изображений

Возможности искусственного интеллекта тревожат профессиональное сообщество. 29 марта появилось письмо, подписанное более 1000 человек, в частности Илоном Маском и Стивом Возняком. В нем группа экспертов по ИИ призывает к шестимесячной паузе в разработке более мощных, чем OpenAI GPT-4 систем, ссылаясь на потенциальные риски для человечества.

Регулирования использования ИИ-изображений пока нет: все работает на уровне отдельных политик, говорит Краковецкий. «Каждая платформа может поставить свои условия, – объясняет он. – Какая-то будет использовать все сгенерированные изображения и промпты. Какая-то – не будет».

«[Разработчики] должны быть предупреждены: если ваш продукт создает ущерб, который может быть предусмотрен, вас могут привлечь к потенциальной ответственности», – сказал глава комитета Сената по разведке Марк Уорнер в комментарии The Washington Post. Политики тоже должны поработать над регуляциями, добавил он.

Маркировать изображения, сгенерированные ИИ, соцсети пока не обязаны, говорят собеседники Forbes. Twitter иногда добавляет к постам с использованием сгенерированных изображений и видео плашки: например, «измененное аудио» или «дипфейк, созданный с помощью ИИ». Но рядом с трендом Гиггинса об аресте Трампа плашек нет.

«Регуляция – обычно самая сложная история, – признает Пономарь. – Есть много неопределенностей».

Материалы по теме