11 мая 2018, 12:00

Обнародованы внутренние инструкции Facebook по борьбе с порно и харассментом

О нелёгкой жизни модераторов.

Редакция Motherboard получила внутренние документы Facebook и копию учебного видео, где рассказано о том, как тренируются модераторы Facebook. Модераторы постоянно сталкиваются с проблемами порномести, сексуальными вымогательствами и фотографиями обнажённых частей тела. Предыдущие годы все эти изображения удалялись, сегодня Facebook внимательно рассматривает каждый конкретный случай и не блокирует аккаунты жертв порноатаки.

Фрагмент внутреннего документа компании

В прошлом модераторы Facebook помечали такие изображения как «порноместь» и отправляли на рассмотрение в вышестоящие органы, которые принимают решение о блокировке. Практически во всех случаях аккаунты, где находили нелицеприятные материалы, удалялись. В учебных материалах это называлось эскалацией.

Согласно видео, Facebook меняет свою политику: теперь модераторы только удаляют не соответствующее политике компании изображение, аккаунт пользователя при этом не блокируют. В видео показано, насколько сложными могут быть правила для модераторов Facebook: жертва должна явно осудить нелицеприятный контент в собственном посте для Facebook. В противном случае модераторы могут посчитать это порноместью.

Представитель Facebook рассказал Motherboard, что компания использует технологии распознавания объектов, чтобы вычислять нелицеприятный контент заранее. Также в компании работает специальный отдел, который просматривает контент на модерации и рассматривает все спорные случаи в ручном режиме.

В прошлом году мы рассказывали о том, как 1000 датчан получили обвинение в распространении контента сексуального характера без согласия участников (что равносильно порномести). Согласно заявлению датской полиции, неизвестные опубликовали в Facebook Messenger изображение и два видеоролика с 15-летними участниками. Материалы быстро распространились по сервису, и кто-то из пользователей пожаловался администрации Facebook.

Хотите подсказать новость или поделиться экспертным мнением? Пишите: news@cossa.ru