Украинский стартап Makenude.ai, которым пользуется 40 000 человек, научил искусственный интеллект раздевать девушек на фото. Это приносит ему сотни тысяч долларов. Но привлечь владельцев стартапа к ответственности почти нереально. Можно ли защититься от таких сервисов?
«Всего одним кликом мыши просмотрите любую девушку без одежды» – краткое описание продукта на сайте украинского стартапа Makenude.ai. Он основан еще в 2021 году, однако заговорили о нем только в 2023-м. Издание dev.ua в октябре опубликовало интервью с основателем, общавшимся на правах анонимности.
В команде работает 14 человек, рассказал основатель. Свои фамилии они не разглашают. «Не видим необходимости заниматься какой-то медийной деятельностью», – объясняет причину один из разработчиков, который разговаривал с Forbes на условиях анонимности.
Как работает продукт? Клиент загружает на сайт фото девушки для обработки, ИИ-алгоритм анализирует его и дорисовывает скрытые одеждой части тела. Нейросеть стартапа построена на базе модели Stable Diffusion, которую создал стартап Stability AI в сотрудничестве с рядом академических исследователей и некоммерческих организаций. Доучивали нейросеть на реальных фото с обнаженными людьми, говорится на сайте Makenude.ai.
Подписка Makenude.ai стоит от $9,99 до $299. За это пользователь получает от 30 до 3000 кредитов. Обработка одного фото – три кредита.
Сервисом пользуется около 40 000 человек, говорит разработчик Makenude.ai. Только 3% клиентов – украинцы, большинство – из США. В Украине сервис работает в обмен на донат для ВСУ. «За последнюю неделю мы насчитали подписок на 87 000 грн», – утверждает разработчик.
Переложить ответственность
На сайте Makenude.ai – десяток примеров с обработанными фото. Сервис советует загружать снимки девушек в купальниках и объясняет, как скачать фото из соцсети Instagram.
Распространять контент из соцсети не запрещено. «Однако, если его перерабатывать под материалы, имеющие признаки порнографического характера, то эта деятельность незаконна», – говорит Андрей Вознюк, управляющий партнер адвокатского объединения «Вознюк и Туровский».
Привлечь Makenude.ai к ответственности перед украинским законодательством практически нереально, говорит Вознюк. Проблема не только в том, что юридически стартап зарегистрирован не в Украине. «Изображения производятся программой, то есть разработчики сервиса отвечают только за создание и функционирование компьютерной программы», – добавляет он.
Сервис запрещает пользователям использовать изображения людей без их согласия. Однако это никем не проверяется. «Пользователь лишь отмечает, что его действия не нарушают права третьих лиц, а сам он является автором материалов или имеет права интеллектуальной собственности для его загрузки и использования», – говорит Станислав Полевой, адвокат Gracers Law Firm.
Украинский стартап Makenude.ai, которым пользуется 40 000 человек, научил искусственный интеллект раздевать девушек на фото.
Еще один предохранитель стартапа – согласие пользователя, что тот обрабатывает фото для своих целей, а не для распространения. Стартап сохраняет обработанное фото на платформе в течение месяца. «Если клиент скачает изображение и будет его распространять, может понести уголовную ответственность лично, но владельцам сервиса ничего не будет», – говорит Полевой.
До сих пор жалоб от «раздетых» Makenude.ai не получал, говорит разработчик. На всех обработанных фото есть водяной знак, указывающий на то, что оно не настоящее. «Если кому-то хочется сделать что-нибудь похожее на реальное фото, то наш сервис с этим не поможет. Такое делают в Photoshop уже десятки лет», – рассказывает разработчик и добавляет, что «продукт» выглядит «мультяшно».
Также стартап не разрешает обработку подростков, государственных деятелей, военных, беременных и верующих, уверяет разработчик. «На сервисе работает штат, который 24/7 фильтрует обработку», – говорит он.
Пока нет закона, запрещающего подобным стартапам перекладывать ответственность на пользователей. В тексте европейского законопроекта AI Act не упоминается дипфейк-порно напрямую, говорит руководитель отдела этики и партнерства в ИИ-стартапе Respeecher Анна Булах. «Надо дождаться финальной версии законопроекта», – говорит Полевой.
Есть ли вероятность, что такой пункт появится? Депутат Европарламента от Испании Хорди Каньяс Перес отправил запрос в Еврокомиссию. Там он поднимает вопрос легальности таких сервисов на примере ClothOff, который использовали для «раздевания» несовершеннолетних.
Дипфейк-порно могут признать нелегальным контентом на уровне отдельных стран, добавляет Булах. «Мы закроем доступ к сайту из стран, где подобные сервисы будут запрещены», – говорит разработчик Makenude.ai.
Как дипфейк-порно регулируется в мире, рассказывает Анна Булах
В июне 2023-го парламент Великобритании внес поправки в предложенный законопроект о безопасности в интернете, который расширит полномочия правительства в плане преследования людей за распространение без согласия порнографических дипфейков (NPD), а также «порно из мести» и другие формы сексуального насилия на основе изображений.
Несмотря на отсутствие федеральных норм по дипфейкам в США, некоторые штаты приняли законы, регулирующие их использование, главным образом направленные на борьбу с дипфейк-порнографией. Калифорния и Техас были первыми штатами, принявшими законы в 2019-м.
1 июля 2020-го в Бельгии ввели новое законодательство, непосредственно касающееся обстоятельств «порномести». Законодательство предусматривает штраф в размере от €200 до €15 000, а также возможное наказание в виде лишения свободы сроком от шести месяцев до пяти лет.
В 2016 году Франция приняла закон о цифровой республике, обеспечив основу для защиты и возражений в ситуациях использования персональных данных. Тогда в Уголовный кодекс была введена новая статья 226-2-1 для решения проблемы «порномести».
Кого и как можно привлечь к ответственности
Чтобы снизить шанс стать жертвой такого сервиса, Полевой советует удалить свои фото из Google. «Необходимо заполнить форму и «объяснить» Google, почему нужно удалить такой контент», – говорит он. Также следует установить частный профиль в соцсетях, чтобы ограничить свободный доступ кого-либо к фотографиям, добавляет он.
Если фото и видео уже использовано секс-ботами, то прежде всего нужно обратиться к администрации сайта, где размещено фото, с требованием его удалить. «Надо отправить на электронную почту сайта письмо, что вы не давали согласия на размещение материалов, – говорит Полевой. – Обязательно нужно добавить ссылку».
Дополнительно пользователь может сделать снимок с экрана сайта, чтобы в будущем он мог быть доказательством. Это позволит привлечь человека к ответственности за использование неимущественных прав человека без его согласия, говорит Полевой. Такое нарушение карается штрафом, который определит суд.
Еще один вариант – привлечь к ответственности за распространение персональных данных. «Любая фотография человека – это его персональные данные, – говорит Максим Носарев, основатель и СЕО юридической компании Tretten Lawyers. – В Украине это меньше наказывается, в отличие от ЕС и США, но шанс есть».
Если экспертиза покажет, что фото носит порнографический характер, то злоумышленник может ответить за распространение порнографии. «В случае с фотографиями ему грозит до трех лет ограничение свободы», – говорит Вознюк.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
