Global cloud team deals with software development to grow your business success today

Темная сторона Фейсбука

Темная сторона Фейсбука
01.03.2014 | 17:44

Для большинства из нас заход в Фейсбук это все-таки нечто приятное, даже, можно сказать, банальное. Мы обновляем статусы для коллег, находящихся где-то далеко. Приглашаем в друзья людей, которых не видели уже много лет (и пытаемся не принимать в друзья некоторых других). Постим фотографии детей наших друзей, практически не отличимые от десятков фотографий, которые мы постили день назад. В среднем ежедневно 845 миллионов человек делают около 4 миллиардов публикаций. И хотя большинство из этих постов вполне безобидные, однако, как оказывается, на сайте хватает и материалов, содержащих элементы педофилии, порнографии, проявлений расизма и насилия. А модераторами сайта являются жители стран третьего мира, нанятые всего лишь за 1 доллар в час в рамках стратегии аутсорсинга. И кроме вопросов морали (неизбежно возникающих, когда компания порождает около тысячи миллионеров, а платит при этом рядовым сотрудникам столь ничтожные суммы), есть еще и вопросы приватности, касающиеся нас всех. Хотя вся эта невидимая армия модераторов проходит какой-то базовый тренинг, работают эти люди на дому, их не проверяют перед этим на судимость, и все они имеют доступ к личным материалам пользователей. Недавно разразилась еще и шумиха по поводу политики приватности компании Google стоит ли теперь ожидать массового отказа пользователей доверять компаниям свою личную информацию?

Месяц назад Амин Деркуа (21 год) в интервью американскому изданию Gawker рассказал, как три недели работал в Марокко на компанию oDesk одну из аутсорсинговых компаний, используемых Фейсбуком. Его работа (за которую, по его словам, платили 1 доллар в час) заключалась в модерации фотографий и постов, помеченных другими пользователями как нежелательные.

Это, должно быть, самая маленькая зарплата, которую платит Фейсбук, сказал он в интервью Daily Telegraph. А работа сама по себе неприятная кому хочется каждый день смотреть, как человека режут на куски?

И он отнюдь не преувеличивает. Он рассказывает о фотографиях издевательств над животными, растерзанных трупах, видео с драками. Другие модераторы (преимущественно молодые и образованные люди) работают в странах Азии, Африки и Центральной Америке и они рассказывают аналогичные истории. Педофилия, некрофилия, обезглавливание, суициды и тому подобное, говорит один из них, и я бросил эту работу, потому что стал опасаться за свое психическое здоровье. Другой модератор сравнивает свою работу с работой слесаря по канализациям: Весь мир протекает перед тобой и ты должен его вычистить.

Давайте зададим себе вопрос: кого же, помимо отчаявшихся людей, пребывающих в трудном положении, сможет привлечь такая работа в первую очередь?

Разумеется, не весь материал, помеченный как нежелательный, содержит сцены жестокости. У Фейсбука есть достаточно четкий набор правил, по котором можно определить, что именно следует удалять. Фотографии с вечеринок нагишом, с изображением наркотических препаратов (кроме марихуаны), сексуальной активности (кроме предварительных ласк) блокируются. Изображение мужских сосков нормально. Если женщина кормит грудью нет. Фотографии с изображением человеческих выделений (кроме спермы) допускаются, если при этом не изображено само тело человека. Фотошопленные картинки нормально, если только они не выставляют кого-либо в негативном свете.

Когда пользователь где-нибудь помечает некий пост как нежелательный, то модератор в Марокко или Мексике имеет три опции: удалить, проигнорировать или перенаправить высшей инстанции (сотруднику Фейсбука в Калифорнии, который, если нужно, доложит об этом властям). От модераторов требуют перенаправлять высшим инстанциям посты, содержащие конкретные угрозы, например: Я собираюсь зарезать Лизу Н. на студенческой вечеринке. А угрозы маловероятные какого-нибудь общего характера (типа На Новый Год я взорву всю планету), как правило, игнорируются.

Это, конечно, плюс Фейсбуку за то, что он пытается как-то соблюсти баланс между своей миссией делать мир более открытым и взаимосвязанным и желанием убрать следы темных проявлений человеческой природы. Компания, которую когда-то Марко Цукерберг основал у себя в комнате в Гарварде, теперь богаче, чем многие государства, а количество сотрудников в ней больше населения ряда стран. А подобные модераторы это как бы полиция компании. Неприятную работу доверяет аутсорсинговым фирмам не только Фейсбук. Адам Левин, директор компании Criterion Capital Partners и собственник британской соцсети Bebo, говорит, что такая политика широко используется во всей Силиконовой долине.

Мы в Bebo поступаем точно так же. Через Фейсбук протекает столько контента каждый день, что нужны сотни человек, модерирующих все помеченные фотографии и посты. И для ускорения, расширения объема и снижения стоимости такой работы лучше всего применять стратегию аутсорсинга.

Официальный представитель корпорации Твиттер заявляет, что у них есть своя внутренняя команда модераторов, однако на вопрос об аутсорсинге он отказался отвечать. Представитель Google тоже не скажет, как будет модерироваться их новая гигантская сеть Google+. Ни Фейсбук, ни компания oDesk не проявили желания прокомментировать свою политику аутсорсинга и модерации контента.

По приблизительным оценкам Левина Фейсбук через посредников нанимает от 800 до 1000 модераторов в компанию oDesk и аналогичные ей. И около трети из них это хорошо оплачиваемые сотрудники, работающие полный рабочий день. Грэм Клюли из компании по Интернет-безопасности, утверждает, что политика аутсорсинга компаний Силиконовой долины является всем известной грязной тайной. Однако наибольшее беспокойство вызывает тот факт, что сам процесс модерации не настолько уж секретен. Как утверждает тот же Деркуа, на компьютере модератора нет никаких программ безопасности, которые не позволили бы ему самому загружать все эти непристойные материалы. Несмотря на то, что он ежедневно имел доступ к подобным материалам, его самого не проверяли на судимость. И где же в таком случае та структура, которая будет следить за самой этой глобальной полицией, которой к тому же так мало платят? Как говорится: кто устережет самих сторожей?

Сам же Фейсбук их фактически охраняет. Согласно заявлению, на которое Telegraph уже ссылался: Подписавшие с нами контракт проходят суровый контроль; мы применяем несколько степеней защиты данных пользователей; никакая информация, помимо сомнительного контента и его источника не распространяется. Все решения, принимаемые субподрядчиками, тщательно проверяются. Однако на фотографиях, помеченных, как оскорбляющие, можно четко различить имена всех, кто был на ней отмечен, как и имя загрузившего ее пользователя. Представитель компании Фейсбук сказал по этому поводу, что эти имена пользователей сохраняются для модераторов, чтобы те смогли оценить данную фотографию в контексте. А этот позволяет, например, тому же Деркуа сказать, что он располагает информацией, полученной и со страниц друзей данного пользователя. Он признает, что просматривал и собирал информацию о подозрительном пользователе. И Клюли в связи с этим утверждает, что пользователей Фейсбука затем могут шантажировать некоторые недобросовестные модераторы или, например, выложить фотографии, изначально предназначенные для узкого круга друзей во всеобщий доступ. Шамун Сиддики, директор компании Develop.io, разрабатывающей приложения и нанимающей работников в странах Третьего мира за более щедрую оплату (от 7 до 10 долларов в час), в принципе соглашается с тем, что здесь нужны более серьезные меры безопасности. Нет ничего плохого в том, что у компании Фейсбук есть офис в Индии. Плохо то, что она нанимает на эту работу случайных людей, которых не знает. Такой подход необходимо менять, говорит он.

В Великобритании, например, все веб-модераторы должны пройти проверку на судимость. Компания eModeration, чьими услугами пользуются и HSBC, и X-Factor платит 10 долларов в час своим сотрудникам и не позволяет им слишком много времени проводить, просматривая неприятный контент. Однако они не занимаются Фейсбук-аккаунтами. Как говорит директор компании Тамара Литлтон: работы слишком много, процесс модерации сложен, и они не могут конкурировать по стоимости услуг с компаниями типа oDesk. Стало быть, если никто не может справиться с компаниями типа oDesk, не значит ли это, что как раз такого рода компании, скорее уничтожат своих конкурентов? Если мистер Цукерберг, обладающий состоянием в 17,5 миллиардов, не желает раскошелиться на повышение оплаты Интернет-уборщикам, то может быть его заставит это сделать возмущение пользователей? Однако Левин такой вариант отрицает: Возможно, незначительный процент пользователей действительно перестанет использовать Фейсбук, если услышат такую вот информацию. Ведь чем в большей степени мы становимся цифровым обществом, тем меньше люди ценят приватность.

Может быть и так. А может быть возмущенные пользователи, старые школьные друзья и молодые мамаши теперь дважды подумают, прежде чем постить личную информацию для своих друзей, если узнают, что буквально через пару минут этот пост увидит не проходивший никаких проверок человек, работающий за доллар в час где-нибудь в инернет-кафе в Маракеше.