Обережно, ШІ-порно. Як штучний інтелект створює порнографічні діпфейки на основі фотографій реальних людей. Розбір Forbes

Платформа Reddit давно є притулком для порнографії, яка дозволена на сайті, якщо актори/моделі згодні на створення такого контенту.

Коли ж ШІ-інструменти для генерування зображення стали широкодоступними, на платформу полився потік порнографічних фото авторства ШІ, де їх можуть споглядати 57 млн користувачів соцмережі.

Це несправжні фото, але ШІ-інструменти були навчені на фотографіях людей. На згенерованих ШІ зображеннях можна впізнати реальних людей, але вони ж на «зйомки» для такого контенту не давали згоди, зазначають експерти.

«Основна проблема із ШІ-порно в тому, що для його створення використовують вкрадені зображення людей, в більшості це жінки», – пояснює Ноель Мартін, жертва діпфейків сексуального характеру та дослідниця Університету Західної Австралії.

Forbes знайшов 14 сабреддітів (форумів), які присвячені ШІ-порно. 10 із них створили за останні два місяці. У кожного сабреддіта тисячі учасників і відвідувань щотижня.

Один із найпопулярніших – r/unstable_diffusion, його відкрили у вересні 2022-го, наразі там 54 000 учасників.

До іншого сабреддіту приєдналися понад 60 000 людей.

Reddit пропонує функцію безпечного пошуку, щоб приховувати «дорослий контент». Якщо її вимкнути, запит AI porn (ШІ-порно) видає понад два десятки форумів, де можна знайти матеріали сексуального характеру авторства ШІ.

На цих сабреддітах деякі користувачі просять зробити або продають порнографічні діпфейки реальних людей.

ШІ-інструменти вдосконалюють, тому стає все складніше не лише відрізнити справжнє від несправжнього, а й добровільно надане від вкраденого.

На початку квітня у кількох користувачів Reddit видурили по $100 за фото 19-річної дівчини Клодії. Насправді фото були не реальної дівчини, а створені за допомогою Stable Diffusion, відмічає Rolling Stone.

Порно як магніт для користувачів

Генератори зображень, які створюють ШІ-порно, тренують на мільйонах зображень реальних людей, які про це і не здогадуються, а також на фото, які належать конкретним юридичним чи фізичним особам, пояснюють експерти.

Художники та фотобанк Getty нещодавно подали позов на Stability AI і Midjourney за порушення авторських прав.

Одна жертва секс-трафікінгу, яку разом із іншими жінками змушували займатися сексом на камеру, розповіла, що вважає використання фото і відео з нею для тренування ШІ-систем порушенням її права на конфіденційність.

Жінка анонімно розповіла Forbes, що відверті відео із нею виставили на Reddit та інші сайти без її згоди, але потім їх видалили.

«Тепер ті, у кого є відео зі мною, можуть створювати нові порноролики, поширювати їх, і все це за допомогою ШІ. Я не можу контролювати цей процес, як і не можу його зупинити», – обурюється жінка.

ШІ-порно зʼявляється і на інших платформах, таких як Twitter та Instagram, але саме на Reddit цей контент процвітає.

Причина частково в тому, що платформа дозволяє користувачам зберігати анонімність та не забороняє поширення дорослого контенту.

Reddit використовувалася для тренування великих мовних моделей і тепер компанія вимагає оплату за послуги.

У нещодавньому інтервʼю New York Times гендиректор компанії Reddit Стів Хаффман заявив, що хоче, щоб Google, Microsoft та OpenAI заплатили його компанії за дані з платформи, які ті використали для тренування своїх алгоритмів.

«Дані Reddit дуже цінні, але ми не повинні роздавати їх одним з найбільших компаній у світі задурно», – сказав Хаффман. Reddit нещодавно оголосила, що закриє дані свого прикладного програмного інтерфейсу (API), які були відкритими з 2008-го. Компанія планує брати гроші з третіх сторін за «преміум-доступ» до них.

Із підтримкою таких важковаговиків, як Andreessen Horowitz і Sequoia Capital, Reddit востаннє оцінили у $10 млрд після того, як компанія залучила $700 млн інвестицій у серпні 2021-го.

Загальні інвестиції у компанію становлять $1,9 млрд, а за деякими повідомленнями, вона планує вихід на біржу у 2023-му. За оцінкою Statista, 2021-му у Reddit було $470 млн виторгу переважно завдяки рекламі і преміальній підписці.

І хоч Reddit стверджує, що не демонструє рекламу і не монетизує дорослий контент на сайті, експерти кажуть, що відкритий дозвіл на такі матеріали, справжні чи синтезовані, долучають на сайт більше людей.

«Навіть якщо вони не ставлять рекламу у сабреддітах, вони все одно виграють від того, що людей притягує такий контент», – пояснює Софі Меддокс, дослідниця сексуального кібернасильства.

Користувачі, які приходять на платформу за порно, відвідують й інші сторінки та сабреддіти, на яких немає дорослого контенту, додає викладач соціальних мереж і рекламної естетики Джеймі Коен.

«Reddit насправді слідкує за відвідуванням сторінок та сабреддітів, а потім надсилає персоналізовані дані рекламодавцям, які ті потім можуть використати», – каже він.

У пошуку «ШІ-дівчат»

У той час як Reddit – це найбільша соцмережа, де десятки мільйонів її користувачів можуть виставити і знайти ШІ-порно, є ціла категорія ШІ-порносайтів, яка монетизує цей контент.

Більшість ШІ-генераторів порно, наприклад, PornJourney, PornPen, PornJoy і SoulGen, вимагають преміальної підписки за користування. Вони повʼязані із акаунтами у Discord чи Patreon, якими керують анонімні користувачі.

На сайтах таких ШІ-генераторів є широкий асортимент ШІ-порно, який можна сортувати за національною приналежністю і особливостями фігури «моделей». Також є інструкції для користувачів, які хочуть створити свій порноролик за допомогою ШІ-генератора.

На сайтах немає інформації про те, як тренують моделі ШІ-генераторів і на яких візуальних матеріалах. Але вони зазначають зручний дисклеймер: «Якщо будь-який контент, згенерований на цьому сайті, нагадує реальних людей, то це абсолютна випадковість. Цей ШІ відображає упередження і помилки, які є у тренувальних даних».

Один з таких генераторів, PornJourney, було створено і запущено у березні 2023-го. За $15 на місяць цей сайт пропонує створювати «ШІ-дівчат», які виглядають «реальними і схожими на людей».

«Забезпечувати користувачів автентичними і деталізованими фотографіями ШІ-дівчат дорого, тому ми постійно інвестуємо у наші сервери», – написано у розділі FAQ сайту.

PornPen, у якого 2 млн щомісячних користувачів і 12 000 платних підписників ($15/місяць), створений на основі ШІ-моделі Stable Diffusion. Генератор порноматеріалів цього сайту використовує зображення зі сховища LAION, у якому близько 6 млн фото, взятих із публічно доступних джерел у мережі.

У ньму містяться зображення знаменитостей, моделей, політиків і творців контенту. «Ми рекомендуємо використовувати ці дані з метою досліджень», зазначає LAION, який є неприбутковим сайтом.

ШІ-інструменти для генерування порно, типу Unstable Diffusion і Porn Pen, використовують відкриті моделі GitHub чи Hugging Face, розповідає Торі Русей, менеджерка із правового захисту у Національному центрі сексуальної експлуатації (NCOSE).

За допомогою цих моделей можна «витягати» фото із порносайтів і профілів у соцмережах та створювати власну базу даних зображень для дорослих.

Forbes знайшов принаймні пʼять GitHub-сховищ, які можна використати для отримання фото та відео із таких сайтів, як PornHub і Xvideos, а також із Twitter, Instagram і TikTok, щоб тренувати ШІ-системи. PornHub і Xvideos не відповіли Forbes на прохання прокоментувати ситуацію.

«Unstable Diffusion – це ніби двоюрідний брат Stable Diffusion. Розробники Unstable Diffusion просто взяли код Stable Diffusion, відтворили його і створили власне сховище із порнографічними чи оголеними фото», – пояснює Русей, яка досліджує використання ШІ для створення порнографії.

Відомі жінки, політикині і журналістки найчастіше стають жертвами ШІ-порно через велику кількість їхніх зображень у мережі, додає Русей. Ці ж категорії населення найчастіше використовують для створення діпфейків.

Сіра зона Reddit

Соцмережа Reddit намагалася чітко визначити свою позицію щодо нового виду сексуального контенту. Платформа заборонила виставляти матеріали сексуального характеру, які створені без згоди «акторів/моделей».

Це стосується «фейкового графічного контенту», тобто ШІ-діпфейків. Сайт також забороняє, за словами речника Reddit, «згенеровані штучним інтелектом матеріали, які виставляються в оманливому контексті».

Reddit стверджує, що використовує комбінацію автоматизованих інструментів і власну команду безпеки для визначення і видалення створеного без згоди сексуального контенту із сайту. Але це не допомагає знайти всі порушення.

«Reddit відома тим, що балансує на межі морально сумнівного і забороненого. Тому ШІ-порнографія знаходиться у сірій зоні Reddit», – каже Русей.

Діпфейки, без згоди створений дорослий контент і ШІ-порно циркулюють у єдиній мережі порнографічних зображень, які потім використовують для створення нових ШІ-зображень.

Важливо розуміти різницю між згенерованою штучним інтелектом порнографією, яка зображає абсолютно невпізнаваних нових «людей», і діпфейками сексуального характеру, для створення яких обличчя реальних людей «пришивають» до тіл інших осіб.

Нікола Генрі, яка 20 років вивчає технологічне сексуальне насильство у Королівському технологічному інституті Мельбурну, каже, що у порівнянні із порнографічними діпфейками ШІ-порно може спершу здатися чимось безневинним. Та якщо придивитися, то на деяких зображенням видно, що ШІ можливо тренували на фото неповнолітніх.

«На деяких ШІ-фото, які я бачила на Reddit, обличчя не схожі на обличчя дорослих жінок, а радше на обличчя неповнолітніх дівчат. Це викликає занепокоєння, адже якби вони були справжніми, то їх можна було б кваліфікувати як контент із насильством над дітьми», – каже дослідниця.

ШІ-порногенератор Unstable Diffusion спробував обійти цю проблему, заборонивши користувачам використовувати його інструмент для створення дитячої порнографії.

Також сайт вирішив створити власну базу зображень, наданих за згодою, попросивши людей пожертвувати власні фото в обмін на ранній доступ і безкоштовне користування ШІ-порногенератором. Якщо вірити сайту, ця ініціатива допомогла зібрати 15 млн «пожертвуваних фото» для тренування ШІ-моделі.

Навіть якщо ці інструменти використовують для сексуального самовираження і дослідження, вони сприяють розвитку нереалістичних і нездорових очікувань щодо тіл людей і сексуальних стосунків. Все через дані, які використовуються для тренування цих інструментів, відмічає Софі Меддокс, дослідниця сексуального кібернасильства.

Вона додає, що ШІ-еротика, яку можна побачити в Reddit і Twitter, відображає сексуальні стереотипи і расові упередження, яких не бракує у медійному просторі.

«Ці інструменти вчаться на реальних текстах та зображеннях, якщо попросити їх згенерувати фото маргіналізованої групи, то часто вони не можуть нічого видати», – каже вона.

ШІ-системи, які використовують контент із таких сайтів, як PornHub і Xvideos, створюють проблеми для порноакторів, яким належать права на їхній контент. Порноактори та платформи, на яких можна знайти їхні роботи, заробляють на підписках і рекламі, пояснює Меддокс.

Та наразі цим акторам не платять, якщо їхні зображення використовуються для генерування порно. Цілком можливо, що порноіндустрія почне протестувати проти безкоштовного використання їхніх матеріалів, як це зробили художники та фотобанки, припускає дослідниця.

Але навіть після видалення сабреддітів із ШІ-порно контент все одно продовжує «гуляти» соцмережею Reddit. «У мене таке враження, що з Reddit ти можеш розширити рамки дозволеного так, як це неможливо на інших платформах», – каже Меддокс.