Apple намагалася розробити систему, яка б зупинила поширення матеріалів із насиллям проти дітей на айфонах і в хмарі iCloud. Та коли через цю програму на сполох забили активісти конфіденційності у мережі, компанія відмовилася від неї. Активістів це порадувало. А ось ті, хто бореться із насиллям проти дітей, розчаровані
Amazon інвестує мільярди доларів у ШІ, роботів та машинне навчання. Якими принципами й правилами керується компанія?
Дізнайтеся вже 22 листопада на Forbes Tech 2024. Купуйте квиток за посиланням!
Forbes розглянув близько 100 федеральних справ, у яких детективи шукали інформацію на пристроях і в сервісах Apple, повʼязану з експлуатацією дітей. Ми виявили, що системи компанії використовували для зберігання і передавання тисяч матеріалів із зображенням насилля над дітьми (МЗНД) між 2014-м і 2023-м.
Цікаво те, що Apple у 2021 році оголосила про запровадження інструменту, який мав сканувати файли iCloud на предмет МЗНД. Втім, вибір компанії на користь конфіденційності та незадоволення груп, які виступають за приватність у мережі, призвели до відмови від нового ПЗ. Це спричинило звільнення ключових керівників, які активно займалися питанням безпеки й цією програмою:
- Мелісси Маррус Полінскі, директорки з розслідувань і дитячої безпеки;
- Маргарет Річардсон, директорки з довіри й безпеки;
- Джейн Горват, головної директорки з питань конфіденційності;
- Майкла Ебботта, очільника iCloud;
- Абгішека Бговміка, провідного інженера-розробника ПЗ для виявлення МЗНД.
За словами джерел Forbes в Apple, втрата цих працівників залишила «великі прогалини в організації», а питанням захисту дітей займаються хаотично люди у різних командах.
Нині посаду директора з конфіденційності та дитячої безпеки займає Ерік Нойєншвандер, який до того займався інженерними розробками компанії. А директором з довіри й безпеки став Майк Торнберрі, який 23 роки займався в компанії продажами та Apple Pay.
Конфіденційність понад усе
Apple давно дотримується переконання у тому, що конфіденційність – це одне з основних прав людини. Компанія неабияк обурила ФБР, коли відмовилася залишити лазівку в системі iOS, яка б дозволяла правоохоронцям обходити систему безпеки і отримувати доступ до даних на айфонах. Apple вважає, що такою лазівкою могли б зловживати уряди і групи впливу.
З того часу компанія навіть посилила шифрування своїх пристроїв і ПЗ. Втім, в Apple все ж є можливість сканувати файли користувачів, яку вона використовує для відновлення даних.
Така політика, на думку борців за безпеку дітей, має величезний недолік: Apple по суті залишається сліпою до шкідливих, незаконних матеріалів, які зберігаються на її сервісах. Конкуренти компанії, від Google, Meta і Microsoft до Dropbox, зайняли проактивну позицію у боротьбі із сексуальними «хижаками» на своїх платформах. За словами правоохоронців і спеціалістів з технологій, щороку ці компанії надають мільйони, а іноді десятки мільйонів, кібернаведень у Національний центр загублених та експлуатованих дітей (НЦЗЕД). Центр переглядає і систематизує їх, перш ніж відправляти детективам у справах насильства над дітьми.
«Їх ніколи не цікавив захист дітей на їхній платформі, – каже Forbes Джим Коул, який 20 років працював у підрозділі з розслідувань питань національної безпеки. – Вони незворушні у своєму захисті приватності, а закон не вимагає від них шукати МЗНД».
Apple відмовилася відповідати на питання Forbes, але журнал отримав лист від Нойєншвандера, директора з питань конфіденційності та дитячої безпеки. Він написав, що компанія відмовилася від плану сканувати свої системи на предмет МЗНД, бо «його неможливо втілити так, щоб не ставити під загрозу безпеку і конфіденційність наших користувачів». Він також наголосив на тому, що Apple пропонує інші безпекові опції для боротьби з експлуатацією дітей.
Масове сканування файлів користувачів компанії «відкриє двері для масового спостереження» за людьми, попередив Нойєншвандер.
«Як користувач може бути впевнений у тому, що один інструмент для спостереження не використають для іншого виду спостереження, наприклад, за політичною активністю чи для релігійних переслідувань? Інструменти для масового спостереження за населенням мають широкі негативні наслідки для свободи слова і демократії загалом», – пише він.
Він додав, що недоліки такого сканування можуть відчути батьки, «коли вони просто виставлять звичайні фото своїх дітей».
Проблема iCloud
У Apple є можливість сканувати iCloud за допомогою PhotoDNA, одного із найпопулярніших інструментів для боротьби із поширенням МЗНД-файлів у мережі. Це ПЗ створили у 2009-му Microsoft та Дартмутський коледж, і воно перетворює зображення на унікальні цифрові коди під назвою хеші. Потім їх порівнюють у базі даних відомих хешів МЗНД. Збіг по базі дає привід для подальшого розслідування.
PhotoDNA настільки широко використовується, що він фактично став стандартом індустрії – Facebook і Google використовують його понад 10 років. Втім, не для Apple.
Як і всі технокомпанії, Apple за законом зобовʼязана підкорятися судовим ордерам і повідомляти про МЗНД федеральну владу через «гарячу» кіберлінію CyberTipline, яку організував НЦЗЕД. Минулого року Facebook та Instagram разом подали 26 млн таких повідомлень, Google – 2 млн, TikTok – майже 300 000, а Apple – 234. А за рік до того Apple взагалі повідомила про 160 випадків.
Так, Apple не соцмережа, тому таке порівняння навряд чи справедливе. Але месенджер WhatsApp, який пропонує наскрізне шифрування, сканує нешифрований вміст (профіль і фото у групах) на предмет МЗНД. У 2022-му він надав НЦЗЕД понад 1 млн кібернаведень, Microsoft – 110 000, Dropbox – майже 46 000, а Synchronoss – понад 30 000.
Дехто може сказати, що річ у дублікатах (одне зображення було поширене у багатьох постах), проте критики впевнені, що ця статистика відображає небажання Apple робити більше, ніж передбачено законом для боротьби із незаконними матеріалами. Навіть 4chan, далеко не приклад зразкової модерації, робить в рази більше кібернаведень.
Forbes наводить приклад двох показових справ. Техасець отримав понад 17 років вʼязниці за поширення МЗНД після того, як на його акаунті iCloud знайшли майже 600 незаконних відео і зображень. А вчитель молодшої школи визнав себе винним у зберіганні МЗНД на його iCloud-акаунті – під час рейду знайшли 81 відео і 158 зображень насилля над дітьми.
В обох випадках Apple надала дані, лише коли виписали ордер на обшук. У випадку із техасцем кібернаведення зробив месенджер Kik, популярний серед «хижаків». Лише у двох зі 100 справ, які розглянув Forbes, Apple самостійно повідомила про МЗНД, які вона виявила в електронних листах.
Компанія чудово усвідомлює проблему МЗНД-файлів на своїй платформі. У повідомленні колезі у 2020-му Ерік Фрідман, головний директор Apple у боротьбі із шахрайством, написав, що Facebook та інші технокомпанії зосереджені на довірі й безпеці, але у конфіденційності вони – відстій. Але також він додав, що оскільки в Apple на першому місці – конфіденційність, компанія стала «найкращою платформою для поширення дитячої порнографії».
Конфіденційність проти безпеки
У серпні 2021-го Apple оголосила про власний інструмент під назвою NeuralHash, який шукатиме МЗНД, але при цьому захищатиме конфіденційність. Програма виявлятиме такі матеріали під час завантаження на iCloud, але не зберігатиме інформацію про неповʼязані файли. Ті, хто переймаються захистом дітей, були у захваті. Інші ж розкритикували програму як величезну загрозу приватності.
Правозахисні групи із захисту конфіденційності назвали програму лазівкою для збільшення нагляду і цензури в усьому світі. Активісти почали заявляти, що подібні інструменти часто неточні і їх не дають перевіряти. Мередіт Віттакер, президентка компанії Signal, яка пропонує однойменний зашифрований застосунок для повідомлень, вказує на дослідження, яке виявило вразливості у NeuralHash, що можуть призвести до витоку інформації про неповʼязані із МЗНД файли чи бути використані для того, щоб підставити когось.
Реакція громадськості на NeuralHash була така радикальна, що восени 2021-го Apple припинила впровадження програми, а у грудні 2022-го взагалі від неї відмовилася. Багато з тих, хто працювали над інструментом, були розчаровані таким рішенням. Один колишній співробітник компанії назвав NeuralHash «чудовою програмою», а інший – і взагалі «революційною». Останній вважає, що помилкою Apple була погана презентація інструменту і недостатньо детальний опис його роботи.
«Кожну технологію можна використати як для добра, так і для зла. Саме тому кожній технокомпанії потрібно підтримувати рівновагу між безпекою і конфіденційністю, – каже Джулія Кордуа, президентка Thorn, неприбуткової організації з боротьби проти МЗНД, яку спонсорує актор Ештон Кутчер. – Якщо зосереджуватися на одному та ігнорувати інше, вашою технологією можуть зловживати».
Не допомагає і те, що закриття NeuralHash погіршило і так не найкращі відносини між Apple і детективами у справах експлуатації дітей. Джон Рус, колишній детектив у справах експлуатації дітей в Австралії, каже, що компанія все більше «віддаляється» від цього питання. «Вони не йдуть на контакт із нами…не ведуть діалог, – розповідає він. – І це неабияк розчаровує, адже вона один із найбільших провайдерів технологічних послуг у світі».
Та захисники конфіденційності схвалюють рішення Apple відмовитися від NeuralHash. «З боку Apple правильно протистояти групам тиску, які наполягали на відстеженні приватних документів і спілкуванні від імені урядів, – сказав засновник і гендиректор Epic Games Тім Свіні. – Подібна програма сканування завжди буде неприпустимим порушенням прав користувачів».
Ви знайшли помилку чи неточність?
Залиште відгук для редакції. Ми врахуємо ваші зауваження якнайшвидше.
