Категорія: Інновації
Дата: 20 жовтня 2023 18:44

Індустрія діпфейк-порно на підйомі – висновок дослідження «ШІ-порно без згоди», яке опублікувало видання WIRED. Жертвам такого цифрового контенту не до сексу. Як зупинити епідемію

Переказ тексту Wired

Forbes

Є ціла індустрія зловживання діпфейками, від якої страждають переважно жінки, і в останні кілька років вона стає все розвиненішою Фото Зображення згенеровано ШІ Midjourney в співавторстві з Анною Наконечною

ШІ-застосунок для створення цікавих фото і відео чи програма, яка змінює обличчя, здаються безневинними інструментами, які можуть допомогти урізноманітнити контент на нашій сторінці у соцмережі або зробити цікаву аватарку. Але є ті, хто зловживають такими технологіями, завдаючи шкоди іншим людям. Журнал WIRED проаналізував дослідження про поширення діпфейків сексуального характеру, жертви яких не давали згоди на свою участь в них. Forbes переказує головне з матеріалу

Видання WIRED розглянуло дослідження щодо поширення діпфейк-порно без згоди, яке провів незалежний дослідник. Він попросив про анонімність, щоб уникнути переслідування в мережі.

Під терміном «діпфейк-порно без згоди» (далі – ДПЗ чи діпфейк-порно) мається на увазі відео- чи фотоконтент, який було створено без дозволу людей, чиї зображення використано за допомогою різноманітних програм і застосунків, зокрема тих, що працюють на штучному інтелекті.

Згідно із дослідженням, ДПЗ буквально на підйомі, про що свідчать такі факти:

принаймні 244 625 ДПЗ-відео було завантажено на 35 найпопулярніших сайтів, які спеціалізуються повністю чи частково на діпфейк-порно, за останні сім років;
за перші девʼять місяців цього року на різні сайти залили 113 000 таких відео, що на 54% більше, ніж за весь 2022-й;
на двох найбільших сайтах є по 44 000 ДПЗ-відео, а на пʼяти інших – понад 10 000 (WIRED не називає у своїй статті зазначені у дослідженні сайти, щоб не рекламувати їх і не збільшувати їхню відвідуваність);
під час дослідження було виявлено ще 300 звичайних порнографічних сайтів, на яких можна знайти ДПЗ-контент;
дослідник виявив, що сайти, на яких викладають злиті в мережу чужі фото, теж поширюють діпфейки сексуального характеру;
один сайт похизувався тим, що «роздягнув» фото понад 350 000 людей;
дослідник прогнозує, що у 2023-му загальна кількість створених за рік ДПЗ перевищить те, що створили загалом за всі попередні роки.

Є ціла індустрія зловживання deepfake-відео та фото, від якої страждають переважно жінки, і в останні кілька років вона стає все розвиненішою. Застосунками, які дають змогу підставити обличчя будь-якої людини куди завгодно без її згоди або «роздягнути» її, користуються мільйони людей.

Знаменитості, стрімери та творці контенту найчастіше стають несвідомими «зірками» таких відео і фото.

Не потрібно бути компʼютерним генієм, щоб знайти сайти із ДПЗ, адже варто лише увімкнути VPN (а іноді й взагалі необовʼязково – Forbes), вбити у пошуковик тематичний запит, наприклад, «діпфейк відео знаменитості» – і ви отримаєте велику кількість сайтів із таким контентом. Тим паче, що сторінки із ДПЗ часто у своїй назві містять варіацію слова «діпфейк».

Чи можна захиститися від діпфейків

На жаль, лише за пʼять років після зростання популярності діпфейків почали зʼявлятися закони, які карають тих, хто їх поширюють. Цього місяця губернаторка американського штату Нью-Йорк Кеті Гочул підписала закон, який забороняє розповсюджувати діпфейк-порно без згоди, створені за допомогою програм на основі ШІ. Покарання – рік за ґратами.

За аналогічний злочин в Англії та Уельсі порушників чекає два роки увʼязнення, якщо вдасться довести, що поширення порно-діпфейків мало злий умисел.

Експерти кажуть, що такі закони треба приймати швидше і контролювати їхнє виконання, адже безкарність розвʼязує руки. Вони також впевнені, що для припинення епідемії діпфейк-порно варто вжити заходів для обмеження розповсюдження інструментів, які створені спеціально для завдання шкоди. Активні дії потрібні й від хостингових компаній, які обслуговують діпфейк-сайти, і від пошуковиків, таких як Google і Bing.

Генрі Айдер, експерт з питань діпфейків і генеративного ШІ, вважає: що складніше користувачам знаходити діпфейк-порно, програми для заміни обличчя та інші схожі інструменти, то простіше зупинити поширення ДПЗ-контенту.

На його думку, добре було б, щоб пошуковики видавали сайти із таким контентом в останню чергу, тобто не на перших сторінках, а інтернет-провайдери – щоб їх блокували. Та Айдер не надто оптимістично налаштований щодо цього, адже досі платформи не вважають поширення діпфейків серйозною проблемою.

Речник Google Нед Едріанс стверджує, що у їхніх користувачів є можливість подати запит на виключення з результатів пошуку «фейкової порнографії без згоди», заповнивши відповідну форму. В Microsoft теж повідомили, що вони забороняють на своїх платформах просування і поширення ДПЗ-контенту.

Ашер Флін, молодша викладачка Університету Монаша в Австралії, яка вивчає зловживання ШІ та іншими технологіями, розповіла про своє дослідження щодо впливу діпфейк-порно на тих, хто став його учасниками без згоди.

Вона виявила, що жертви цифрового насилля демонструють «високі рівні» проблем із ментальним здоровʼям, такі як тривожність, депресія, заподіяння собі шкоди та самогубство. Дослідниця також говорить, що такий контент неминуче впливає на роботу постраждалої, стосунки із родиною і друзями та на її соціальне життя.

Флін зазначає, що вже зафіксовано збільшення кількості та доступності ШІ-інструментів для створення порнографічного контенту без згоди, а на різних платформах все частіше шукають такі фото й відео.

Генеративний ШІ, ймовірно, ще більше поглибить проблему, якщо не вжити заходів контролю і захисту для жертв.

Матеріали по темі