МОДЕРАТОРЫ В FACEBOOK ХОДЯТ К ПСИХОЛОГУ

0
317
МОДЕРАТОРЫ В FACEBOOK ХОДЯТ К ПСИХОЛОГУ

Модераторы в Facebook ходят к психологу. Сара Кац продержалась меньше года. Заработала нервный срыв.

МОДЕРАТОРЫ В FACEBOOK ХОДЯТ К ПСИХОЛОГУ
МОДЕРАТОРЫ В FACEBOOK ХОДЯТ К ПСИХОЛОГУ

Эта статья содержит описания сексуального насилия над детьми и других действий, которые могут шокировать читателей.

Сара Кац, некогда модерировавшая материалы в сети «Фейсбук», рассказала, что после восьми месяцев работы ей захотелось обратиться за психологической помощью.

«Это была преимущественно порнография», — рассказывает Сара, вспоминая о своём труде.

В позапрошлом году девушка была одной из сотен модераторов, которые работали на стороннее агентство в Калифорнии. Агентство было партнером компании «Фейсбук».

«Работодатель очень чётко предупреждал нас о контенте, с которым мы можем столкнуться, поэтому нельзя сказать, что нас не проинформировали», — делится впечатлениями Кац.

Её работа заключалась в проверке жалоб от пользователей «Фейсбука» на неприемлемый контент.

О своём опыте Сара рассказала в эфире BBC Live 5 с Эммой Барнетт. Ниже приведены избранные моменты из её интервью.

Изображения вне закона

«Они позволили нам тратить примерно одну минуту на один пост, чтобы решить, это спам, и следует ли его удалять. Иногда мы также могли удалить профиль, отправивший сообщение.

Руководство не требовало от нас работать больше восьми часов в день. За это время мы обрабатывали по 8 тыс. постов — это примерно тысяча публикаций в час.

Вы очень многому учитесь на работе, особенно в первый день. Если бы мне пришлось описать эту работу одним словом, то это было бы «напряженно». Вы должны быть готовы увидеть что-то шокирующее только после одного клика мыши, без предупреждения.

Часть содержимого, с которым мне приходилось сталкиваться, была откровенной детской порнографией. На одном из изображений было двое детей — мальчик примерно 12 лет и девочка около восьми лет от роду. Они стояли лицом к лицу, на них не было штанов, и они трогали друг друга.

Казалось, будто кто-то взрослый с камерой указывает им, что делать. Это выглядело очень тревожно, потому что происходило в реальности».

МОДЕРАТОРЫ В FACEBOOK ХОДЯТ К ПСИХОЛОГУ

Посты повторяются снова и снова

«Многие из таких откровенных публикаций распространяются моментально. Мы наблюдали, как они появляются у примерно шести разных пользователей в день, и это очень усложняет поиск первоисточника.

В то время нам было не с кем поговорить об этом, получить психологическую помощь. Возможно, сейчас такая возможность есть, но я не уверена».

Сара говорит, что если бы мне предложили услуги психолога, то я скорее бы всего ими воспользовалась.

«Конечно, они нас предупреждали, но предупреждения и то, что ты реально видишь, — совершенно разные вещи.

Некоторые люди думают, что они могут справиться с этим, но на практике оказывается, что нет, и же это хуже, чем они ожидали».

Безжалостное насилие

«Со временем вы теряете чувствительность. Я бы не сказала, что становится проще, но вы, безусловно, привыкаете.

Попадалось много порнографии со взрослыми людьми, добровольно вступающими в половой акт, и это не вызывало большой тревоги. Иногда встречалась и зоофилия. Был один пост с конём, который всё не удавалось удалить окончательно, поскольку его продолжали распространять.

Также встречалась масса изображений насилия. Например, фото убитой женщины. Ее расстреляли в голову, и часть ее тела свешивалась со стула.

Правила модерации были более жёсткие по отношению к порнографии, чем к изображениям насилия.»

МОДЕРАТОРЫ В FACEBOOK ХОДЯТ К ПСИХОЛОГУ

Фейковые новости

«Я думаю, фейковые новости застали «Фейсбук» врасплох. Накануне американских выборов им не уделялось особо много внимания, по крайней мере, когда я там работала.

Не могу вспомнить, чтобы мы когда-нибудь слышали на работе термин «фейковые новости».

МОДЕРАТОРЫ В FACEBOOK ХОДЯТ К ПСИХОЛОГУ

«Мы видели много новостей, которые распространяли пользователи, но руководство никогда не просило нас просматривать новостные статьи, чтобы убедиться в точности всех фактов тех публикаций.

Это была очень монотонная работа. Можно быстро привыкнуть различать, что является спамом, а что нет. Просто работа превращается в массу кликов.

Порекомендовала бы я свою тогдашнюю работу кому-нибудь? Если вам есть чем заняться, я бы сказала «нет».

Ответ от «Фейсбука»

Би-би-си поделилась рассказом Сары с самой компанией.

В ответ представитель «Фейсбука» заявил: «Наши модераторы играют важную роль в том, чтобы сделать соцсеть безопасной и открытой. Это очень сложная работа, и мы хотим убедиться, что они чувствуют нашу поддержку».

«Это одна из причин, почему мы устраиваем регулярные тренинги, консультации и оказываем психологическую помощь всем нашим работникам и всем, кто работает на нас через наших партнеров», — говорилось в ответе.

«Хотя мы используем искусственный интеллект там, где можем, у нас также есть более семи тысяч человек, которые модерируют контент в соцсети, и их самочувствие действительно является нашим приоритетом», — добавили в пресс-службе компании.

А как «Вконтакте» справляется?

В самой популярной в России сети «ВКонтакте» нередко встречаются изображения порнографии и насилия.

Достаточно вбить в поиске по сообществам, например, «красивые девушки» или «красивые парни», и до откровенных фотографий вас будет отделять один клик. А в некоторых сообществах на похожие темы есть тысячи подписчиков.

Подобно своему заокеанскому конкуренту, соцсеть сталкивается с массовым копированием и перепостом изображений, что делает модерацию и удаление запретного контента крайне непростым делом.

Как замечают в пресс-службе VK.com, в российском интернет-гиганте также используют гибридный метод модерации.

МОДЕРАТОРЫ В FACEBOOK ХОДЯТ К ПСИХОЛОГУ

«Первый этап — входящие жалобы пользователей. Время реакции команды модерации «ВКонтакте» не превышает одного часа, а обычно составляет несколько минут», — сообщила пресс-служба VK.com в ответ на запрос Би-би-си.

«Второй этап — внутренняя проактивная модерация. Модераторы запускают машинный поиск запрещённого правилами контента на всем сайте, который блокируется и делает невозможным загрузку копий в будущем», — описывают во «Вконтакте» процесс модерирования.

Что до психологической помощи сотрудникам, то она, согласно пресс-службе VK.com, предоставляется в соцпакете.

> ВРЕМЯ ЗОМБИ. СОТРУДНИКИ FACEBOOK И GOOGLE ФОРМИРУЮТ КОАЛИЦИЮ ДЛЯ БОРЬБЫ СО СВОИМ ДЕТИЩЕМ