Категорія: Інновації
Дата: 30 березня 2023 08:00

Арешт Трампа, Макрон на протесті та Папа Римський у пуховику. Як відрізнити згенероване штучним інтелектом зображення від справжнього

Тома Міроненко

Forbes

Фото, згенеровані за допомогою ШІ, викладено у соцмережі користувачами Twitter, Instagram, Discord, Reddit

Соцмережами та медіа ширяться зображення, згенеровані програмами штучного інтелекту. Їх легко сплутати зі справжніми фото, проте поки вони не бездоганні. На що звертати увагу, аби не помилитись.

Побачивши в Instagram кадри арешту Дональда Трампа, співзасновник Gathers і член правління AI HOUSE Богдан Пономар надзвичайно здивувався. Йому знадобилось декілька секунд, щоб прийти до тями, наблизити фото і зрозуміти: вони згенеровані штучним інтелектом.

Затримання Трампа візуалізував засновник Bellingcat Еліот Гіґґінc – допомогла п’ята версія платформи Midjourney. Журналіста «надихнули» новини про можливий арешт Трампа через імовірну виплату грошей за мовчання порнозірці Стормі Деніелс. Гіґґінс запостив тред у Twitter, очікуючи на декілька репостів – натомість зображення стали віральними. Вони отримали охоплення у 6 млн та майже 40 000 лайків.

Потік згенерованих штучним інтелектом зображень в соцмережах та медіа стає все потужнішим. З-поміж останніх прикладів – «фото» Папи Римського в об’ємному білому пуховику. Його теж було створено за допомогою Midjourney. Автор зображення, Пабло Ксав’єр, попросив генератор надихнутись дизайном курток Balenciaga та Moncler.

«Папа в пуховику виглядає доволі реалістично, – визнає CEO DevRain та член Forbes Technology Council Олександр Краковецький. – Пересічному громадянину, не дуже знайомому з технологіями, вже зараз може бути складно відрізнити справжнє фото від згенерованого ШІ».

Найпопулярніші ШІ-платформи, що створюють зображення за текстовим описом, – Midjourney, DALL-E та Stable Diffusion. Але Midjourney – особливо після виходу п’ятої версії – користуються найчастіше, вважає Пономар.

Згенеровані зображення вводять в оману не тільки рядових користувачів соцмереж. Нещодавно Краковецький побачив в Telegram опитування: чи справжній перед ним портрет дівчини? Не повністю переконаний, він обрав «згенероване». Вгадав.

Коли зображення стануть досить правдоподібними, щоб обманути спеціалістів? Місяці, можливо, рік, вважає Краковецький.

«Втім, ці зображення досі не ідеальні», – каже Пономар.

Як відрізнити згенероване зображення від справжнього фото

Існують детектори, які можуть визначати, чи було фото згенеровано нейронною мережею. Проте вони не покажуть, чи є воно діпфейком, каже Пономар. У визначенні справжності фото професіонали поки спираються на візуальні підказки.

Штучний інтелект не ідеально промальовує деталі людського тіла – руки, пальці, вуха, каже Краковецький. Якщо на зображенні декілька людей, можуть з’являтись артефакти: наприклад, додаткові кінцівки. «Якщо тіні та напівтона неприродні, недопрацьовані, скоріш за все, зображення згенероване», – додає він.

Програми штучного інтелекту не дуже гарно малюють зіницю ока, каже Пономар. Якщо наблизити фото, це можна побачити. Їм також складно зберігати пропорції обличчя: ШІ помиляється із зображенням зубів і може робити їх завеликими, помітив кофаундер Gathers.

Варто звертати увагу на задній план: він часто нереалістичний або розмитий, особливо якщо на бекграунді напис. Текст загалом ще не піддається штучному інтелекту – він розмиває літери та «не розуміє», як накласти його на інші шари зображення, каже Пономар. Приклад – «затримання» Трампа: текст на шевронах поліцейських неможливо прочитати.

Створивши декілька десятків зображень, присвячених арешту експрезидента США, – навіть таких, де він грає у баскетбол на тюремному майданчику, – Гіґґінс помітив: ШІ фокусується на основному об’єкті зображення, а інші люди та предмети навколо мають суттєві недоліки. Особливо якщо ці люди – не селебріті: відомих персонажів штучний інтелект малює більш довершено.

«Я звернув увагу: коли просиш намалювати вираз обличчя, Midjourney малює їх у перебільшеному вигляді: наприклад, дуже виражені складки шкіри від посмішки», – казав Гіґґінс Wired.

На те, чи повірить людина у справжність фото, впливає контекст публікації. Після влучення ракети у будинок в Дніпрі 14 січня соцмережами ширилась картинка з дитиною, що плаче. «Було очевидно: фотографія згенерована, – каже Краковецький. – Але багато людей відмовлялись в це вірити».

Краковецький нагадує принцип інформаційної гігієни: не розповсюджувати зображення, справжність яких не підтверджена. Він згадує фото, що з’явилось після зустрічі Сі Цзіньпіна та Володимира Путіна – на ньому останній буцімто стоїть на колінах перед китайським лідером. Походження цього кадру досі невідоме.

Дослідження Deutsche Welle стверджує: він був створений штучним інтелектом. Але спікери Forbes переконані: ШІ у цьому випадку ні до чого. Справжнім фото це не робить. «Потрібно розуміти: чи воно відповідає контексту, в якому опубліковане, коли було зроблено, чи було виправлено у фотошопі», – каже Краковецький.

Чи врегульована публікація згенерованих ШІ-зображень

Можливості штучного інтелекту непокоять професійну спільноту. 29 березня зʼявився лист, підписаний понад 1000 осіб – зокрема Ілоном Маском та Стівом Возняком. У ньому група експертів з ШІ закликає до шестимісячної паузи у розробці більш потужних за OpenAI GPT-4 систем, посилаючись на потенційні ризики для людства.

Регулювання використання ШІ-зображень поки немає: все працює на рівні окремих політик, каже Краковецький. «Кожна платформа може поставити власні умови, – пояснює він. – Якась буде використовувати всі згенеровані зображення та промпти. Інша – не буде».

«[Розробники] мають бути попереджені: якщо ваш продукт створює шкоду, яку можливо передбачити, вас можуть притягнути до потенційної відповідальності», – сказав голова комітету Сенату з розвідки Марк Уорнер у коментарі The Washington Post. Політики теж мають попрацювати над регуляціями, додав він.

Маркувати зображення, згенеровані ШІ, соцмережі поки не зобовʼязані, кажуть співрозмовники Forbes. Twitter іноді додає до постів із використанням згенерованих зображень та відео плашки: наприклад, «змінене аудіо» або «діпфейк, створений за допомогою ШІ». Але поруч з трендом Гіґґінса про арешт Трампа плашок немає.

«Регуляція – зазвичай найскладніша історія, – визнає Пономар. – Є багато невизначеностей».

Матеріали по темі