Росія готує для українців відео, де президент Володимир Зеленський нібито оголосить про капітуляцію України, повідомляє українська розвідка. Реліз відбудеться тоді, коли, на думку окупанта, Україна буде виснаженою й готовою здати держінтереси. Цього не станеться ніколи, запевняє Головне управління розвідки. Скільки коштує зробити діпфейк і як упізнати в ньому несправжнього Зеленського
Р
Росія вже почала кампанію з дезінформаціі. Станом на 3 березня сил Росії вистачило лише на те, щоб зламати низку сайтів органів місцевої влади. І розмістити там текст від імені Зеленського про підписання мирного договору з окупантами. У тексті багато помилок. Гарний діпфейк зробити на порядок складніше.
Один із найпопулярніших діпфейків той, де 44-ий президент США Барак Обама попереджає про небезпеку цієї технології. «Президент Трамп повне й цілковите лайно, – сказав у відео Обама. – Ви знаєте, я б ніколи не сказав цього». І то правда – замість нього говорив американський режисер Джордан Піл. Ролик створили за допомогою програми Fakeapp і графічного редактора Adobe After Effects.
Обама попереджав про загрозу
Такий діпфейк створений технологією deep face life. На вході потрібен датасет з відео й фото двох людей: жертви діпфейку й того, хто начитає текст. Датасет потребується з варіативними зображеннями: під різними кутами повороту, з різною мімікою, із закритими й відкритими очима, під різним освітленням тощо.
Найпростіше зробити діпфейк людини, яка прямо дивиться в камеру й говорить монотонний текст, розповідає CTO стартапу Reface Олесь Петрів. «Повороти голови, виразна міміка, активна жестикуляція ускладнюють процес», – додає він.
Експерти з Массачусетського Технологічного Інституту радять звертати увагу на деталі, щоб розпізнати фальшивку. На шкірі будуть неприродні плями, губи виглядатимуть непропорційно до обличчя тощо. «Якщо відео робилось поспіхом, можуть бути певні недоліки в зоні вух, зубів і повік під час кліпання, – говорить Петрів. – До цього потрібно придивлятися, але по телебаченню нічого не помітиш».
У Reface відео навмисно залишають недосконалим. Щоб не продукувати фейки, підробку Reface можна помітити неозброєним оком. Але й відео можна отримати за якихось 15 секунд.
Reface видає підробку за 15 секунд
А що як витратити на роботу кілька тижнів? Якщо потрудитися довше, то викрити фейк зможе лише професіонал, каже Петрів. Над ним трудяться фахівці з машинного навчання, постпродакшену, актори, а не додатки типу Reface. Зробити діпфейк політика чи іншої публічної особи – простіше за все. В інтернеті на них уже є солідний датасет.
Підробку промови політика можна зробити за допомогою технології lipsync. Під існуюче відео політика підставляють іншу ауді-доріжку. Його начитує актор, а натренована нейромережа підбирає під нього природний тембр людини. Щоб голос звучав як у Зеленського, Байдена чи будь-кого іншого, потрібно кілька годин. І це точно не дешеве задоволення.
Підробкою голосів за допомогою технології voice conversion займається, наприклад, український стартап Respeecher. Він бере орієнтовно годину запису голосу. Це можуть бути фрагменти інтерв’ю або виступів. Нейромережа аналізує цей запис і накладає його на іншу аудіодоріжку, яку начитує дублер.
Отримуємо нове згенероване аудіо, яке звучить як реальний голос. Схожим способом Respeecher озвучив Ніксона у фільмі In Event of Moon Disaster. Стартап проаналізував архівні промови 37-го президента США і наклав голос Ніксона на голос дублера, який зачитував ніколи не проголошену промову. Ніксон мав озвучити її, якби космічна місія «Аполлон-11» закінчилася катастрофою.
Підробити голос – це лише частина роботи. На відео губи мають рухатися в такт зі словами. Окремі нейромережі беруть справжнє відео, начитане актором ауді й модифікують його так, щоб форма губ відповідала звуку. «Стара промова політика буде виглядати так, наче він говорить своїм голосом, який насправді не його, і робить рухи губами, які відповідають цьому голосу, а він таких рухів не робив», – каже Петрів.
Більше часу – кращий діпфейк
Як упізнати фейкову промову? Якщо над ним трудилися три-чотири тижні, то з першого погляду ніяк. Маючи доступ до самого відео, можна застосувати методи аналізу мікроартефактів на основі інших нейронних мереж. Подібне під силу тільки спеціалістам з машинного навчання.
Інший варіант – порівняти відповідність кадрів фейку з оригіналами, які є в мережі. «Точно будуть відео, в якому відрізнятимуться лише губи», – говорить Петрів. Найімовірніше використають свіжі відео президента, які він записував у військовій формі. Відео зі «Слуги народу» не підійде, вважає Петрів.
Рівняння просте. Викачати всі відео за тиждень, запустити код порівняння кадрів з GitHub, і за 40 хвилин фейк викрито. Розпізнати його можна і за непрямими ознаками. «Якщо на оригінальному відео людина широко відкривала рот, а на модифікованому аудіо іде мовчання, то можна помітити неприродні рухи, – пояснює Петрів. – Людина закрила рот, а нижня щелепа все одно рухається».
Сервісів для створення діпфейків вистачає. Наприклад, Deepfakes web β, DeepFaceLab, FaceSwap, Zao. Вони безкоштовні або мають символічну вартість у кілька доларів. На виході отримаємо результат з багами.
На якісне відео доведеться розкошелитися. Підбірка датасету, хитрий постпродакшен, щоб приховати ознаки камери, робота з нейромережами потребують висококласних спеціалістів. Місяць їхньої роботи обійдеться недешево. «Якщо стоїть ідея скомпрометувати президента іншої країни під час війни, то на подібні речі можуть закинути й сотні тисяч доларів, бо це коштує все одно дешевше ніж деякі бойові снаряди», – говорить Петрів.
У Головному управлінні розвідки до ситуації підходять з гумором. «Ми, українці, вже запаслись попкорном, і з нетерпінням чекаємо на цей «шедевр» від росії», – написало ГУР у фейсбуці.
Ви знайшли помилку чи неточність?
Залиште відгук для редакції. Ми врахуємо ваші зауваження якнайшвидше.
