ента новостейНеделя для Facebook начинается бурно. В понедельник Facebook, WhatsApp и Instagram отключились примерно на шесть часов. Во вторник Фрэнсис Хауген, информатор Facebook, дала показания перед подкомитетом Сената после публикации тысяч страниц внутренних исследований и документов.
Хауген, 37-летняя бывшая менеджер по продукту Facebook (FB), которая занималась вопросами гражданской этики в компании, раскрыла свою личность во время сегмента «60 минут», который транслировался в воскресенье вечером. Сообщается, что она подала как минимум восемь жалоб осведомителей в Комиссию по ценным бумагам и биржам, утверждая, что компания скрывает исследования своих недостатков от инвесторов и общественности. Она также поделилась документами с регулирующими органами и Wall Street Journal, который опубликовал расследование, состоящее из нескольких частей, показывающее, что Facebook знал о проблемах с его приложениями.
В понедельник «60 минут» опубликовали восемь жалоб Хаугена. Вот четыре вывода из жалоб:
Механика Facebook способствует распространению дезинформации
Внутренние документы, цитируемые в жалобах, показывают, что Facebook знает, что разжигание ненависти и дезинформация на его платформах оказывают влияние на общество, и что его основные механизмы продукта, такие как рекомендации по виральности и оптимизация взаимодействия, являются важной частью того, почему эти типы высказываний процветать.'
В одном исследовании рисков дезинформации и поляризации, возникающих в результате рекомендаций, алгоритму Facebook потребовалось всего несколько дней, чтобы рекомендовать страницы заговора для учетной записи, следующей за официальными, проверенными страницами для консервативных данных, таких как Fox News и Дональд Трамп. Для того же аккаунта потребовалось меньше недели, чтобы получить рекомендацию QAnon. И согласно документам, озаглавленным «Раньше они публиковали селфи, теперь они пытаются отменить выборы» и «Вознаграждает ли Facebook возмущение», цитируемым в жалобах, алгоритмы Facebook не только награждают посты по таким темам, как заговоры с мошенничеством на выборах, лайками и репостами. , но также «чем больше негативных комментариев вызывает часть контента, тем выше вероятность того, что ссылка получит больше трафика».
Один документ под названием «Что такое побочный ущерб?» даже заходит так далеко, что отмечает, что «в конечном итоге Facebook в целом будет активно (если не обязательно сознательно) продвигать эти виды деятельности. Механика нашей платформы не нейтральна».
Facebook предпринял ограниченные действия по устранению существующей дезинформации
Согласно внутреннему документу о проблемных ненасильственных повествованиях, упоминаемых как минимум в двух жалобах, Facebook удаляет от 3% до 5% разжигающих ненависть высказываний и менее 1% контента, который считается насильственным или подстрекающим к насилию. Это связано с тем, что объем слишком велик для рецензентов-людей, а его алгоритмам сложно точно классифицировать контент, когда необходимо учитывать контекст.
Внутренние документы о роли Facebook в выборах 2020 года и восстании 6 января также предполагают, что распространителей дезинформации редко останавливают механизмы вмешательства компании. В одном документе отмечается, что «принудительное применение на страницах, модерируемых администраторами страниц, которые публикуют 2+ дезинформации за последние 67 дней, может повлиять на 277000 страниц. Из этих страниц 11 000 - это страницы, на которых в настоящее время находятся рецидивисты ».
Несмотря на заявления Facebook о том, что они «удаляют контент из Facebook независимо от того, кто его публикует, если он нарушает наши стандарты», по словам Хаугена, на практике система «XCheck» или «Cross-Check» эффективно «заносит в белые списки» высокопоставленные и / или высокопоставленные лица. или привилегированных пользователей». Во внутреннем документе о предотвращении ошибок, цитируемом в жалобе, утверждается, что «за эти годы многие страницы, профили и объекты XChecked были освобождены от принудительного применения».
Внутренние документы по «количественной оценке концентрации повторных публикаций и их VPV среди пользователей» и «плану выключения для всех поверхностей групповых рекомендаций» показывают, что Facebook также откатил некоторые изменения, которые, как было доказано, уменьшают дезинформацию, потому что эти изменения привели к снижению роста платформы.
Кроме того, Хауген утверждает, что компания ложно заявила рекламодателям, что сделала все возможное, чтобы предотвратить восстание. Согласно документу под названием «Капитолийские бунты разбивают стекло», более безопасные параметры, которые Facebook реализовал для выборов 2020 года, такие как понижение уровня содержания, такого как разжигание ненависти, которое могло бы нарушить его стандарты сообщества, были фактически отменены и восстановлены только после этого. после того, как вспыхнуло восстание».
В одном документе официальный представитель Facebook заявляет, что «мы были готовы действовать только * после * того, как ситуация перешла в ужасное состояние».
Facebook ввел общественность в заблуждение относительно негативного воздействия своих платформ на детей и подростков, особенно молодых девушек.
Отвечая на вопрос во время слушаний в Конгрессе в марте, «вредят ли платформы Facebook детям», генеральный директор Facebook Марк Цукерберг ответил: «Я так не думаю».
Однако, согласно внутреннему исследованию Facebook, приведенному в одной из жалоб Хаугена, «13,5% девочек-подростков в Instagram говорят, что платформа ухудшает мысли о« самоубийстве и самоповреждении », а 17% говорят, что платформа, которой владеет Facebook, делает». Проблемы с питанием, такие как анорексия, хуже. В их исследовании также утверждается, что платформы Facebook «усугубляют проблемы с изображением тела у каждой третьей девочки-подростка».
Facebook знает, что его платформы позволяют эксплуатировать людей
Хотя стандарты сообщества Facebook гласят, что они «удаляют контент, который способствует или координирует эксплуатацию людей», внутренние документы компании, цитируемые в одной из жалоб Хаугена, предполагают, что компания знала, что «содержание домашнего подневольного труда оставалось на платформе» до расследования BBC News в 2019 году. на черный рынок для домашних работников в Instagram.