Lensa – хитовое приложение для «художественных аватаров», созданное россиянами. Почему он беспокоит экспертов по безопасности — разбор WP /Фото с официальной Instagram страницы lensa.ai. Коллаж Александра Карасева
Категория
Инновации
Дата

Lensa – хитовое приложение для «художественных аватаров», созданное россиянами. Почему он беспокоит экспертов по безопасности — разбор WP

Фото с официальной Instagram страницы lensa.ai. Коллаж Александра Карасева

Программа Lensa, которая превращает фото реальных людей в портреты в разных художественных стилях, за считанные дни стало хитом. Пользователи в восторге, но эксперты бьют тревогу: приложение, созданное двумя выходцами из Yandex, может нести риски для конфиденциальности, пишет Washington Post. Forbes выбрал главное.

Forbes Украина выпустил новый номер печатного журнала. В нем почти два десятка эксклюзивных материалов. Приобрести журнал с бесплатной доставкой можно по этой ссылке.

На этой неделе миллионы людей загрузили в соцсети собственные аватары, созданные мобильным приложением Lensa на основе искусственного интеллекта. Программа существует с 2018-го года, но настоящая популярность пришла к ней совсем недавно – в конце ноября, когда в приложении появилась функция «волшебных аватаров». После этого число скачиваний Lensa по всему миру резко возросло: за первые пять дней декабря приложение скачали 4 млн раз. Это вдвое больше по сравнению с ноябрьскими показателями, подсчитала аналитическая компания Sensor Tower. Lensa занимает верхние строки в списках самых популярных приложений в магазинах Apple App Store и Google Play.

Родом из Yandex

Годовая подписка на Lensa стоит $35,99, а пакеты аватаров продаются с доплатой $3-12. За пять дней декабря потребители потратили в Lensa $8,2 млн. Пользователь загружает в приложение до десяти своих фотографий крупным планом. Программа строит на их основе модель машинного обучения, а затем эта модель генерирует изображения в разных художественных стилях, от аниме до «сказочной принцессы».

Одни восхищаются тем, насколько красивыми и точными оказались их портреты. Другие гневно делятся изображениями с искаженными чертами лица, а некоторые – и вовсе изуродованными портретами, например с руками и ногами, растущими прямо из головы. Особенно много жалоб от темнокожих пользователей: в базе машинного обучения, которую использует искусственный интеллект, преобладают фотографии людей с белой кожей, поэтому портреты получаются искаженными.

Lensa принадлежит компании Prisma Labs, зарегистрированной в Калифорнии. Фирма известна приложением Prisma, использующим искусственный интеллект для преобразования фотографий в рисунки различных художественных стилей. Основатели – россияне Андрей Усольцев и Алексей Моисеенков – раньше работали в Yandex.

Lensa использует модели для бесплатной системы машинного обучения по названием Stable Diffusion. Модели обучали на миллиардах комбинаций изображений из интернета. Приложение отправляет загруженные пользователем фотографии в свое облачное хранилище, запускает модель, созданную специально для каждого пользователя, и выдает портрет пользователя, выполненный в новых стилях.

Безопасность под вопросом

Искаженные изображения – далеко не главная проблема Lensa. Многие беспокоятся о конфиденциальности фотографий, которые загружают в приложение. Представители Prisma Labs утверждают, что компания не передает личные фотографий или сведений третьим сторонам. Prisma уточняет, что использует предоставленные пользователем фотографии только для создания аватаров и удаляет каждую партию фото вместе с моделью машинного обучения, созданной для этих изображений, когда аватар готов. Но правила конфиденциальности, с которым и должен согласиться пользователь, оставляют возможность делиться информацией с другими.

Prisma Labs утверждает, что не использует фотографии или индивидуальные модели для обучения систем распознавания лиц. Но Усольцев признал: компания хранит «самый минимум» данных с пользовательских фотографий, хотя и не сообщил, каких именно.

Еще одна проблема конфиденциальности данных, которая может возникнуть при использовании Lensa, лежит в другой плоскости. Гигантская коллекция изображений под названием LAION, на которой учится искусственный интеллект, взята из Интернета, говорят эксперты по ИИ. Иными словами, в нее вошли изображения людей, которые не давали своего согласия на использование своих фото. Одна из художниц даже обнаружила в базе данных фотографии из своей личной медицинской карты. Для проверки, есть ли в LAION ее фотографии, которые используют системы машинного обучения искусственного интеллекта, она использовала бесплатный сайт HaveIBeenTrained.com.

Еще одна проблема Lensa – потенциальная возможность сексуальной эксплуатации и преследования. Пользователи могут загружать фотографии кого угодно, а не только свои. Часто приложение выдает женские изображения обнаженными или в позах с сексуальным подтекстом. Это происходит и с изображениями детей, хотя Lensa утверждает, что приложение предназначено только для людей от 13 и старше. «Модель Stable Diffusion обучена на нефильтрованном интернет-контенте. Поэтому она отражает вкусы, которые люди включают в изображения, которые они создают», — говорится в разделе «Вопросы и ответы» на сайте Lensa.

Эксплуатация труда художников

Некоторые диджитал-художники с готовностью взяли на вооружение искусственный интеллект. Но когда аватары Lensa заполонили социальные сети, многие из них призвали людей дважды подумать, прежде чем платить деньги в приложении. «Стили» Lensa основаны на реальном искусстве реальных людей, и они не получают компенсации от Prisma за свой труд.

«Программа, которая использует наше искусство и генерирует концепт-арт, уже мешает нашей работу», – сказал Джон Лам, художник из компании Riot Games, занимающейся компьютерными играми.

Механизмы машинного обучения воссоздают паттерны, а не конкретные произведения искусства, утверждают создатели Lensa. Но Лам рассказывает, что его друзья потеряли работу после того, как работодатели использовали их рисунки использовали для обучения моделей искусственного интеллекта. По его словам, сами художники оказались больше не нужны своим компаниям. Во многих случаях в LAION использовались изображения, защищенные авторским правом, а Prisma Labs наживается на труде авторов без их согласия, говорит художник. 

Материалы по теме
Предыдущий слайд
Следующий слайд
Новый выпуск Forbes Ukraine

Заказывайте с бесплатной курьерской доставкой по Украине