ИИ-порно. Как искусственный интеллект создает порнографические дипфейки на основе фотографий реальных людей. Разбор Forbes

Платформа Reddit давно является убежищем для порнографии, разрешенной на сайте, если актеры/модели согласны на создание такого контента.

Когда же ИИ-инструменты для генерирования изображения стали широкодоступны, на платформу полился поток порнографических фото авторства ИИ, где их могут созерцать 57 млн пользователей соцсети.

Это не настоящие фото, но ИИ-инструменты были обучены на фотографиях людей. На сгенерированных ИИ изображениях можно узнать реальных людей, но они же на «съемки» для такого контента не давали согласия, отмечают эксперты.

«Основная проблема с ИИ-порно в том, что для его создания используют украденные изображения людей, в большинстве своем это женщины», – объясняет Ноэль Мартин, жертва дипфейков сексуального характера и исследовательница Университета Западной Австралии.

Forbes нашел 14 сабреддитов (форумов), посвященных ИИ-порно. 10 из них были созданы за последних два месяца. У каждого сабреддита тысячи участников и посещений еженедельно.

Один из самых популярных – r/unstable_diffusion, его открыли в сентябре 2022-го, сейчас там 54 000 участников.

К другому сабреддиту присоединились более 60 000 человек.

Reddit предлагает функцию безопасного поиска, чтобы скрывать «взрослый контент». Если ее отключить, запрос AI porn (ИИ-порно) выдает более двух десятков форумов, где можно найти материалы сексуального характера авторства ИИ.

На этих сабреддитах некоторые пользователи просят сделать или продают порнографические дипфейки реальных людей.

ИИ-инструменты совершенствуют, поэтому становится все сложнее не только отличить настоящее от ложного, но и добровольно предоставленное от украденного.

В начале апреля у нескольких пользователей Reddit выманили по $100 за фото 19-летней девушки Клодии. На самом деле фото были не реальной девушки, а сделаны при помощи Stable Diffusion, отмечает Rolling Stone.

Порно как магнит для пользователей

Генераторы изображений, которые создают ИИ-порно, тренируют на миллионах изображений реальных людей, которые об этом и не догадываются, а также на фото, принадлежащих конкретным юридическим или физическим лицам, объясняют эксперты.

Художники и фотобанк Getty недавно подали иск на Stability AI и Midjourney за нарушение авторских прав.

Одна жертва секс-трафикинга, которую вместе с другими женщинами заставляли заниматься сексом на камеру, рассказала, что считает использование фото и видео с ней для тренировки ИИ систем нарушением ее права на конфиденциальность.

Женщина анонимно рассказала Forbes, что откровенные видео с ней выставили на Reddit и другие сайты без согласия, но потом их удалили.

«Теперь те, у кого есть видео со мной, могут создавать новые порноролики, распространять их, и все это с помощью ИИ. Я не могу контролировать этот процесс, как и не могу его остановить», – возмущается женщина.

ИИ-порно появляется и на других платформах, таких как Twitter и Instagram, но именно на Reddit этот контент процветает.

Причина в том, что платформа позволяет пользователям сохранять анонимность и не запрещает распространение взрослого контента.

Reddit использовалась для тренировки больших языковых моделей, и теперь компания требует оплату за услуги.

В недавнем интервью New York Times гендиректор компании Reddit Стив Хаффман заявил, что хочет, чтобы Google, Microsoft и OpenAI заплатили его компании за данные с платформы, которые использовали для тренировки своих алгоритмов.

«Данные Reddit очень ценны, но мы не должны раздавать их одним из крупнейших компаний в мире даром», – сказал Хаффман. Reddit недавно объявила, что закроет данные своего прикладного программного интерфейса (API), открытые с 2008-го. Компания планирует брать деньги с третьих сторон за премиум-доступ к ним.

С поддержкой таких тяжеловесов, как Andreessen Horowitz и Sequoia Capital, Reddit в последний раз оценили в $10 млрд после того, как компания привлекла $700 млн инвестиций в августе 2021-го.

Общие инвестиции в компанию составляют $1,9 млрд, а по некоторым сообщениям она планирует выход на биржу в 2023-м. По оценке Statista, в 2021 у Reddit было $470 млн выручки преимущественно благодаря рекламе и премиальной подписке.

И хотя Reddit утверждает, что не демонстрирует рекламу и не монетизирует взрослый контент на сайте, эксперты говорят, что открытое разрешение на такие материалы, подлинные или синтезированные, привлекают на сайт больше людей.

«Даже если они не ставят рекламу в сабреддитах, они все равно выигрывают от того, что людей привлекает такой контент», – объясняет Софи Мэддокс, исследовательница сексуального кибернасилия.

Пользователи, приходящие на платформу за порно, посещают и другие страницы и сабреддиты, на которых нет взрослого контента, добавляет преподаватель социальных сетей и рекламной эстетики Джейми Коэн.

«Reddit действительно следит за посещением страниц и сабреддитов, а затем посылает персонализированные данные рекламодателям, которые те потом могут использовать», – говорит он.

В поиске «ИИ-девушек»

В то время как Reddit – это самая большая соцсеть, где десятки миллионов ее пользователей могут выставить и найти ИИ-порно, есть целая категория ИИ-порносайтов, которая монетизирует этот контент.

Большинство ИИ-генераторов порно, например PornJourney, PornPen, PornJoy и SoulGen, требуют премиальной подписки за пользование. Они связаны с аккаунтами Discord или Patreon, которыми управляют анонимные пользователи.

На сайтах таких ИИ-генераторов имеется широкий ассортимент ИИ-порно, который можно сортировать по национальной принадлежности и особенностям фигуры «моделей». Также есть инструкции для пользователей, которые хотят создать свой порноролик с помощью ИИ-генератора.

На сайтах нет информации о том, как тренируют модели ИИ-генераторов и на каких визуальных материалах. Но они отмечают удобный дисклеймер: «Если любой контент, сгенерированный на этом сайте, напоминает реальных людей, это абсолютная случайность. Этот ИИ отражает предупреждения и ошибки, имеющиеся в тренировочных данных».

Один из таких генераторов, PornJourney, был создан и запущен в марте 2023 года. За $15 в месяц этот сайт предлагает создавать «ИИ-девушек», которые выглядят «реальными и похожими на людей».

«Обеспечивать пользователей аутентичными и детализированными фотографиями ИИ-девушек дорого, поэтому мы постоянно инвестируем в наши серверы», – написано в разделе FAQ сайта.

PornPen, у которого 2 млн ежемесячных пользователей и 12 000 платных подписчиков ($15/месяц), создан на основе ИИ-модели Stable Diffusion. Генератор порноматериалов этого сайта использует изображение из хранилища LAION, в котором около 6 млн фото, взятых из публично доступных источников в сети.

В нем содержатся изображения знаменитостей, моделей, политиков и создателей контента. «Мы рекомендуем использовать эти данные для исследований», отмечает LAION, который является неприбыльным сайтом.

ИИ-инструменты для генерирования порно типа Unstable Diffusion и Porn Pen используют открытые модели GitHub или Hugging Face, рассказывает Тори Русей, менеджер по правовой защите в Национальном центре сексуальной эксплуатации (NCOSE).

С помощью этих моделей можно «вытаскивать» фото из порносайтов и профилей в соцсетях и создавать собственную базу данных для взрослых.

Forbes нашел по крайней мере пять GitHub-хранилищ, которые можно использовать для получения фото и видео с таких сайтов, как PornHub и Xvideos, а также из Twitter, Instagram и TikTok, чтобы тренировать ИИ-системы. PornHub и Xvideos не ответили Forbes на просьбу прокомментировать ситуацию.

«Unstable Diffusion – это как двоюродный брат Stable Diffusion. Разработчики Unstable Diffusion просто взяли код Stable Diffusion, воспроизвели его и создали собственное хранилище с порнографическими или обнаженными фото», – объясняет Русей, исследующая использование ИИ для создания порнографии.

Известные женщины, политики и журналистки чаще всего становятся жертвами ИИ-порно из-за большого количества их изображений в сети, добавляет Русей. Эти же категории населения чаще всего используют для создания дипфейков.

Серая зона Reddit

Соцсеть Reddit пыталась четко определить свою позицию относительно нового вида сексуального контента. Платформа запретила выставлять материалы сексуального характера, созданные без согласия «актеров/моделей».

Это касается «фейкового графического контента», то есть ИИ-дипфейков. Сайт также запрещает, по словам спикера Reddit, «сгенерированные искусственным интеллектом материалы, выставляемые в обманчивом контексте».

Reddit утверждает, что использует комбинацию автоматизированных инструментов и собственную команду безопасности для определения и удаления созданного без согласия сексуального контента с сайта. Но это не помогает найти все нарушения.

«Reddit известна тем, что балансирует на грани морально сомнительного и запретного. Поэтому ИИ-порнография находится в серой зоне Reddit», – говорит Русей.

Дипфейки, без согласия созданный взрослый контент и ИИ-порно циркулируют в единой сети порнографических изображений, которые затем используют для создания новых ИИ-изображений.

Важно понимать разницу между сгенерированной искусственным интеллектом порнографией, изображающей совершенно не узнаваемых новых «людей», и дипфейками сексуального характера, для создания которых лица реальных людей «пришивают» к телам других людей.

Никола Генри, изучающая 20 лет технологическое сексуальное насилие в Королевском технологическом институте Мельбурна, говорит, что по сравнению с порнографическими дипфейками ИИ-порно может сначала показаться чем-то невинным. Но если присмотреться, то на некоторых изображениях видно, что ИИ возможно тренировались на фото несовершеннолетних.

«На некоторых ИИ-фото, которые я видела на Reddit, лица не похожи на взрослых женщин, а скорее на лица несовершеннолетних девушек. Это вызывает беспокойство, ведь будь они настоящими, то их можно было бы квалифицировать как контент с насилием над детьми», – говорит исследовательница.

ИИ-порногенератор Unstable Diffusion попытался обойти эту проблему, запретив пользователям использовать инструмент для создания детской порнографии.

Также сайт решил создать собственную базу изображений, предоставленных с согласия, попросив людей пожертвовать собственными фото в обмен на ранний доступ и бесплатное использование ИИ-порногенератора. Если верить сайту, эта инициатива помогла собрать 15 млн «пожертвованных фото» для тренировки ИИ-модели.

Даже если эти инструменты используются для сексуального самовыражения и исследования, они способствуют развитию нереалистичных и нездоровых ожиданий относительно тел людей и сексуальных отношений. Все из-за данных, используемых для тренировки этих инструментов, отмечает Софи Мэддокс, исследовательница сексуального кибернасилия.

Она добавляет, что ИИ-эротика, которую можно увидеть в Reddit и Twitter, отражает сексуальные стереотипы и расовые предубеждения, которых хватает в медийном пространстве.

Эти инструменты учатся на реальных текстах и изображениях, если попросить их сгенерировать фото маргинализованной группы, то часто они не могут ничего выдать, – говорит она.

ИИ-системы, использующие контент с таких сайтов, как PornHub и Xvideos, создают проблемы для порноактеров, которым принадлежат права на их контент. Порноактеры и платформы, где можно найти их работы, зарабатывают на подписках и рекламе, объясняет Мэддокс.

Но пока этим актерам не платят, если их изображения используются для создания порно. Вполне возможно, что порноиндустрия станет протестовать против бесплатного использования их материалов, как это сделали художники и фотобанки, предполагает исследовательница.

Но даже после удаления сабреддитов с ИИ-порно контент все равно продолжает гулять по соцсети Reddit. «У меня такое впечатление, что с Reddit ты можешь расширить рамки дозволенного так, как это невозможно на других платформах», – говорит Мэддокс.