Apple пыталась разработать систему, которая остановила бы распространение материалов с насилием против детей на айфонах и в облаке iCloud. Но когда из-за этой программы тревогу забили активисты конфиденциальности в сети, компания отказалась от нее. Активистов это порадовало. А вот те, кто борется с насилием против детей, разочарованы
Amazon інвестує мільярди доларів у ШІ, роботів та машинне навчання. Якими принципами й правилами керується компанія?
Дізнайтеся вже 22 листопада на Forbes Tech 2024. Купуйте квиток за посиланням!
Forbes рассмотрел около 100 федеральных дел, в которых детективы искали информацию на устройствах и в сервисах Apple, связанную с эксплуатацией детей. Мы обнаружили, что системы компании использовали для хранения и передачи тысяч материалов с изображением насилия над детьми (МИНД) между 2014-м и 2023-м.
Интересно, что Apple в 2021 году объявила о внедрении инструмента, который должен был сканировать файлы iCloud на предмет МИНД. Впрочем, выбор компании в пользу конфиденциальности и недовольства групп, выступающих за конфиденциальность в сети, привели к отказу от нового ПО. Это стало причиной увольнения ключевых руководителей, активно занимавшихся вопросами безопасности и этой программой:
- Мелиссы Маррус Полински, директора по расследованиям и детской безопасности;
- Маргарет Ричардсон, директора по доверию и безопасности;
- Джейн Горват, главного директора по вопросам конфиденциальности;
- Майкла Эбботта, руководителя iCloud;
- Абгишека Бговмика, ведущего инженера-разработчика ПО по выявлению МИНД.
По словам источников Forbes в Apple, потеря этих работников оставила «большие пробелы в организации», а вопросом защиты детей занимаются хаотично люди в разных командах.
В настоящее время должность директора по конфиденциальности и детской безопасности занимает Эрик Нойеншвандер, до этого занимавшийся инженерными разработками компании. А директором по доверию и безопасности стал Майк Торнберри, 23 года занимавшийся в компании продажами и Apple Pay.
Конфиденциальность превыше всего
Apple давно придерживается убеждения в том, что конфиденциальность – это одно из основных прав человека. Компания изрядно возмутила ФБР, когда отказалась оставить лазейку в системе iOS, которая позволяла бы правоохранителям обходить систему безопасности и получать доступ к данным на айфонах. Apple считает, что такой лазейкой могли бы злоупотреблять правительства и группы влияния.
С этого времени компания даже усилила шифрование своих устройств и ПО. Впрочем, у Apple все же есть возможность сканировать файлы пользователей, которую она использует для обновления данных.
Такая политика, по мнению борцов за безопасность детей, имеет огромный недостаток: Apple, по сути, остается слепой к вредным, незаконным материалам, хранящимся на ее сервисах. Конкуренты компании, от Google, Meta и Microsoft до Dropbox, заняли проактивную позицию в борьбе с сексуальными «хищниками» на своих платформах. По словам правоохранителей и специалистов по технологиям, ежегодно эти компании предоставляют миллионы, а иногда десятки миллионов кибернаводок в Национальный центр потерянных и эксплуатируемых детей (НЦПЭД). Центр пересматривает и систематизирует их, прежде чем отправлять детективам по делам насилия над детьми.
«Их никогда не интересовала защита детей на их платформе, – говорит Forbes Джим Коул, 20 лет работавший в подразделении по расследованию вопросов национальной безопасности. – Они невозмутимы в своей защите конфиденциальности, а закон не требует от них искать МИНД».
Apple отказалась отвечать на вопросы Forbes, но журнал получил письмо от Нойеншвандера, директора по конфиденциальности и детской безопасности. Он написал, что компания отказалась от плана сканировать свои системы на предмет МИНД, потому что «его невозможно воплотить так, чтобы не ставить под угрозу безопасность и конфиденциальность наших пользователей». Он также отметил, что Apple предлагает другие опции безопасности для борьбы с эксплуатацией детей.
Массовое сканирование файлов пользователей компании «откроет двери для массового наблюдения» за людьми, предупредил Нойеншвандер.
«Как пользователь может быть уверен в том, что один инструмент для наблюдения не используют для другого вида наблюдения, например, за политической активностью или для религиозных преследований? Инструменты для массового наблюдения за населением имеют широкие негативные последствия для свободы слова и демократии», – пишет он.
Он добавил, что недостатки такого сканирования могут ощутить родители, «когда они просто выставят обычные фото своих детей».
Проблема iCloud
Apple имеет возможность сканировать iCloud с помощью PhotoDNA, одного из самых популярных инструментов для борьбы с распространением МИНД-файлов в сети. Это ПО было создано в 2009-м Microsoft и Дартмутским колледжем, и оно превращает изображения в уникальные цифровые коды под названием хэши. Затем их сравнивают в базе данных известных хэшей МИНД. Совпадение по базе дает повод для дальнейшего расследования.
PhotoDNA настолько широко используется, что он фактически стал стандартом индустрии – Facebook и Google используют его более 10 лет. Впрочем, не для Apple.
Как и все технокомпании, Apple по закону обязана подчиняться судебным ордерам и сообщать о МИНД федеральным властям через «горячую» киберлинию CyberTipline, которую организовал НЦПЭД. В прошлом году Facebook и Instagram вместе подали 26 млн таких сообщений, Google – 2 млн, TikTok – почти 300 000, а Apple – 234. А за год до этого Apple вообще сообщила о 160 случаях.
Да, Apple не соцсеть, поэтому такое сравнение вряд ли справедливо. Но мессенджер WhatsApp, предлагающий сквозное шифрование, сканирует нешифрованное содержимое (профиль и фото в группах) на предмет МИНД. В 2022-м он предоставил НЦПЭД более 1 млн кибернаводок, Microsoft – 110 000, Dropbox – почти 46 000, а Synchronoss – более 30 000.
Некоторые могут сказать, что дело в дубликатах (одно изображение было распространено во многих постах), однако критики уверены, что эта статистика отражает нежелание Apple делать больше, чем предусмотрено законом для борьбы с незаконными материалами. Даже 4chan, далеко не пример образцовой модерации, делает в разы больше кибернаводок.
Forbes приводит пример двух показательных дел. Техасец получил более 17 лет тюрьмы за распространение МИНД после того, как на его аккаунте iCloud обнаружили почти 600 незаконных видео и изображений. А учитель младшей школы признал себя виновным в хранении МИНД на его iCloud-аккаунте – во время рейда нашли 81 видео и 158 изображений насилия над детьми.
В обоих случаях Apple предоставила данные, только когда выписали ордер на обыск. В случае с техасцем кибернаводку сделал мессенджер Kik, популярный среди «хищников». Лишь по двум из 100 дел, которые рассмотрел Forbes, Apple самостоятельно сообщила о МИНД, которые она обнаружила в электронных письмах.
Компания отлично осознает проблему МИНД-файлов на своей платформе. В сообщении коллеге в 2020 году Эрик Фридман, главный директор Apple по борьбе с мошенничеством, написал, что Facebook и другие технокомпании сосредоточены на доверии и безопасности, но в конфиденциальности они – отстой. Но он добавил, что поскольку у Apple на первом месте – конфиденциальность, компания стала «лучшей платформой для распространения детской порнографии».
Конфиденциальность против безопасности
В августе 2021 года Apple объявила о собственном инструменте под названием NeuralHash, который будет искать МИНД, но при этом будет защищать конфиденциальность. Программа будет обнаруживать такие материалы при загрузке на iCloud, но не будет хранить информацию о несвязанных файлах. Те, кто беспокоятся о защите детей, были в восторге. Остальные же раскритиковали программу как огромную угрозу конфиденциальности.
Правозащитные группы по защите конфиденциальности назвали программу лазейкой для увеличения надзора и цензуры по всему миру. Активисты начали заявлять, что подобные инструменты часто неточные и их не дают проверять. Мередит Уиттакер, президент компании Signal, которая предлагает одноименное зашифрованное приложение для сообщений, указывает на исследование, обнаружившее уязвимости в NeuralHash, которые могут привести к утечке информации о несвязанных с МИНД файлах или быть использованы для того, чтобы подставить кого-то.
Реакция общественности на NeuralHash была так радикальна, что осенью 2021-го Apple прекратила внедрение программы, а в декабре 2022-го вообще от нее отказалась. Многие из тех, кто работал над инструментом, были разочарованы таким решением. Один бывший сотрудник компании назвал NeuralHash «прекрасной программой», а другой – и вообще «революционной». Последний считает, что ошибкой Apple была плохая презентация инструмента и недостаточно подробное описание его работы.
«Каждую технологию можно использовать как для добра, так и для зла. Именно поэтому каждой технокомпании нужно поддерживать равновесие между безопасностью и конфиденциальностью, – говорит Джулия Кордуа, президент Thorn, неприбыльной организации по борьбе против МИНД, которую спонсирует актер Эштон Кутчер. – Если сосредотачиваться на одном и игнорировать другое, вашей технологией могут злоупотреблять».
Не помогает и то, что закрытие NeuralHash ухудшило и так не самые лучшие отношения между Apple и детективами по делам эксплуатации детей. Джон Рус, бывший детектив по эксплуатации детей в Австралии, говорит, что компания все больше «удаляется» от этого вопроса. «Они не идут на контакт с нами… не ведут диалог, – рассказывает он. – И это очень разочаровывает, ведь она один из крупнейших провайдеров технологических услуг в мире».
Однако защитники конфиденциальности одобряют решение Apple отказаться от NeuralHash. «Со стороны Apple правильно противостоять группам давления, которые настаивали на отслеживании частных документов и общении от имени правительств, – сказал основатель и гендиректор Epic Games Тим Свини. – Подобная программа сканирования всегда будет недопустимым нарушением прав пользователей».
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
