Категория: Новости
Дата: 24 февраля 2023 16:44

Meta изменяет систему модерации контента на Facebook

Анита Прасад

Forbes

Meta по-прежнему намерена удалять контент, нарушающий правила Facebook, но в рамках новой системы будет уделяться больше внимания тому, чтобы помочь людям понять причину удаления, сообщает компания. Там отметили, что это позволит предотвратить повторные нарушения.

Ключевые факты

Отмечается, что Meta, следуя рекомендациям своего Совета по надзору, который продолжает настаивать на том, чтобы система наказаний была более пропорциональна, делает шаги по обновлению системы Facebook, чтобы сделать ее более эффективной и справедливой.
Поскольку ничего не меняется в основном удалении контента, в компании не ожидают, что усовершенствование системы наказаний повлияет на распространяемость. «С этим обновлением мы по-прежнему сможем обеспечивать безопасность нашей программы, а также давать людям возможность выражать себя», – говорится в сообщении.
В рамках новой системы компания планирует сосредоточиться на том, чтобы помочь людям понять, почему удалили их контент, объясняя это тем, что это более эффективно для предотвращения повторных правонарушений, и не так быстро ограничивает возможность публикации.
Компания по-прежнему планирует применять ограничения к аккаунтам для постоянных нарушителей, как правило, начиная с седьмого нарушения после того, как предоставит достаточно предупреждений и объяснений.
За более серьезные нарушения, такие как размещение контента, способствующего распространению терроризма, эксплуатации детей, торговли людьми, пропаганды самоубийств, сексуальной эксплуатации, продажи немедицинских наркотиков или пропаганды опасных лиц и организаций, Meta продолжит принимать немедленные меры.
Согласно анализу компании, почти 80% пользователей с небольшим количеством предупреждений больше не нарушают правила в течение следующих 60 дней. «Это означает, что большинство людей хорошо реагируют на предупреждение и объяснение, поскольку они не хотят нарушать наши правила», – добавили в Meta.
В компании напомнили, что предыдущая система быстро прибегала к длительным наказаниям, таким как 30-дневное блокирование возможности человека создавать контент. «Наша новая система, которая сокращает количество периодов ограничения, позволит нам выявлять постоянных нарушителей за меньшее время, что приведет к более быстрым и эффективным действиям», – отметили в Meta.

Контекст

С началом полномасштабного российского вторжения украинские пользователи постоянно сталкиваются с «антивоенной» модерацией в соцсетях. Связанные с войной и ее последствиями страницы и сообщения в Facebook, Instagram, Twitter, TikTok, LinkedIn систематически блокируются и удаляются. Однако сами компании не раскрывают точных алгоритмов модерации.

В начале российского вторжения в Украину Meta создала Центр специальных операций (Special Operations Center). В Meta его называют еще одной линией защиты от дезинформации, позволяющей быстрее удалять контент, нарушающий стандарты и правила сообщества. Министерство цифровой трансформации неоднократно заявляло, что работает над преодолением проблемы блокирования постов о войне и российских преступлениях в Украине, однако пока четкого решения нет.

В конце прошлого года Meta сообщила в ответ на запрос Forbes, что у материнской компании Facebook и Instagram 15 000 рецензентов контента, с украинским работают украинские модераторы. В общей сложности вопросами безопасности в компании занимаются 40 000 человек. Их команды расположены по всему миру в разных часовых поясах. Для проверки содержания постов и жалоб пользователей компания использует сочетание человеческого труда и технологий искусственного интеллекта (AI). В этих командах работают носители украинского языка, понимающие локальный контекст.

В Meta также утверждали, что количество жалоб не влияет на решение об удалении контента. Если сообщение не нарушает правила и стандарты соцсети, даже большое количество жалоб не приведет к бану.

Материалы по теме