Категорія: Новини
Дата: 30 червня 2023 12:51

Педофіли використовують ШІ, щоб генерувати та продавати дитячу порнографію – розслідування BBC

Анастасія Несенюк

Forbes

1 хв читання

За допомогою генеративного ШІ-інструмента Stable Diffusion педофіли створюють та продають зображення дитячої порнографії через сервіс платної підписки Patreon, свідчить розслідування BBC.

Ключові факти

Зловмисники використовують ШІ-програму Stable Diffusion для перетворення тексту в зображення, аби генерувати реалістичні образи зґвалтування немовлят та дітей, свідчать дані розслідування.
Спочатку педофіли створюють зображення за допомогою Stable Diffusion. Потім публікують фото на платформах на кшталт японського сайту Pixiv, а далі направляють користувачів на Patreon, де більше зображень можна придбати за підписку.
Patreon дотримується політики нульової терпимості. Фінансувати контент, присвячений темам сексуального характеру за участю неповнолітніх, не можна, заявили представники сервісу в коментарі BBC.
Stable Diffusion також забороняється використовувати у незаконних або аморальних цілях, сказала BBC компанія-розробник програми Stability AI.

Контекст

ШІ-генератор Stable Diffusion розробив у 2022 році британський стартап Stability AI Емада Мостака, 40. У травні 2023-го Білий дім назвав Stability одним із семи «провідних розробників ШІ» поруч із Microsoft і Nvidia, які будуть співпрацювати над ключовими федеральними ініціативами щодо безпеки штучного інтелекту.

Станом на жовтень 2022 року стартап оцінювався в $1 млрд згідно з публічними даними компанії.

Торік стала доступна версія Stable Diffusion з відкритим кодом. Це дозволило користувачам створювати будь-який контент, зокрема протизаконний.

Власники облікових записів на японському Pixiv, де педофіли поширюють дитячу порнографію та зображення насилля, перенаправляють користувачів на Patreon. Американська платформа має понад 250 000 авторів контенту та станом на 2021 рік оцінювалася в $4 млрд.

Під час розслідування BBC зʼясувалося, що на Patreon пропонують, створену за допомогою ШІ, дитячу порнографії за різну вартість. Ціна залежить від типу матеріалу.

Не можна стверджувати, що на згенерованих картинках не зображені реальні діти, сказав BBC Ієн Крітчлі, голова відділу захисту прав дітей у Раді начальників національної поліції (NPCC).

Матеріали по темі