Топ-менеджеры Meta, включая генерального директора Марка Цукерберга, проигнорировали предупреждения на годы о вреде для подростков на такие платформы, как Instagram, сообщил во вторник информатор компании подкомитету Сената.
Вместо этого «Мета» поощряет культуру «не вижу зла, не слышу зла», которая игнорирует внутренние доказательства вреда и публично представляет тщательно разработанные показатели, чтобы преуменьшить важность проблемы, сказал Артуро Бехар, бывший технический директор и консультант Facebook.
Бежар — последний из бывших инсайдеров, выдвигающих публичные обвинения в том, что технологический гигант сознательно закрывает глаза на проблемы, которые его политика и технологии не могут решить дешево или легко.
Показания Бежара перед членами Юридического комитета Сената были даны после того, что он назвал бесплодными обращениями к Цукербергу и его помощникам осенью 2021 года, основанными на исследовании, которое его команда провела на основе опыта подростков и других пользователей платформ Meta.
Сексуальное домогательство подростков
Слушания во вторник последовали за публичным отчетом The Wall Street Journal на прошлой неделе, в котором изложены многие утверждения Бежара, в том числе о том, что у него впервые появилась мотивация изучить этот вопрос из-за нежелательных сексуальных домогательств, которые его собственная 14-летняя дочь получила от незнакомцев в Instagram.
«Недопустимо, чтобы 13-летней девочке делали предложения в социальных сетях», — заявил Бежар, ссылаясь на статистические данные своего исследования, согласно которым более 25% детей в возрасте от 13 до 15 лет сообщили о нежелательных сексуальных домогательствах. в Инстаграм. «Это неприемлемо, и моя работа показала, что так быть не должно».
На фоне критики своих платформ Meta внедрила около 30 средств родительского контроля, позволяющих контролировать, с кем могут разговаривать их дети и сколько времени они проводят в Facebook и Instagram.
Слушания во вторник еще раз ставят Мету под прицел двухпартийного Конгресса, который долгое время изо всех сил пытался разработать законы и правила для социальных сетей, несмотря на отраслевое лоббирование, проблемы Первой поправки и, в некоторых случаях, существенные политические разногласия между республиканцами и демократами. . Тем временем обе партии объединились, обвиняя Мету в том, что она способствовала общенациональному кризису психического здоровья.
Показания Бехара появились почти ровно через два года после того, как Фрэнсис Хауген, еще одна бывшая сотрудница Meta, представила множество внутренних документов, которые, по ее словам, доказывают, что Instagram знал, что его сервис может наносить вред детям.
Исследование Бежара «по сути является неопровержимым доказательством», сказал Хауген CNN в интервью во вторник.
«Тот факт, что у него есть электронные письма и ответы от топ-менеджеров, таких как [бывший главный операционный директор] Шерил Сэндберг, — это действительно очень важно», — сказал Хауген.
«Каждый день бесчисленное количество людей внутри и за пределами Meta работают над тем, как обеспечить безопасность молодых людей в Интернете», — заявил в своем заявлении представитель Meta Энди Стоун. «Проблемы, поднятые здесь в отношении опросов восприятия пользователей, подчеркивают одну часть этих усилий, и подобные опросы побудили нас создать такие функции, как анонимные уведомления о потенциально вредном контенте и предупреждения о комментариях».
Стоун добавил, что, хотя специальный опрос о восприятии пользователей, над которым работал Бежар, больше не проводится в компании, Meta по-прежнему проводит множество других типов опросов о восприятии пользователей, и что некоторые из инструментов, которые она представила для подростков, — например, функция молчаливого отключения звука других пользователей — являются прямым результатом этих опросов.
Законодатели разгружаются на Мете
Во вторник законодатели набросились на гиганта социальных сетей, заявив, что они «ни в коей мере не удивлены» обвинениями Бежара, и призвали к скорейшему принятию закона, чтобы обуздать Meta и других технологических гигантов.
«Они скрыли от этого комитета и всего Конгресса доказательства ущерба, который, как они знали, был правдоподобным», — сказал сенатор-демократ от Коннектикута Ричард Блюменталь.
Республиканец от штата Миссури Джош Хоули раскритиковал крупные технологические компании за то, что они тратят «уймы» денег, чтобы получить «молот» над законодательным процессом и сорвать законопроекты, которые ограничивали бы власть отрасли. Он также обвинил Мету в «подготовке книг» на основе данных, связанных с вредом для психического здоровья.
Сенатор-республиканец от Теннесси Марша Блэкберн отметила, что генеральный директор Instagram Адам Моссери дал показания перед Сенатом вскоре после того, как Бежар уведомил его, Цукерберга, Сэндберга и директора по продукту Криса Кокса о своих опасениях.
«На самом деле, [Моссери] дал показания всего через несколько месяцев после того, как вы отправили ему два электронных письма о вреде, причиненном молодежи на платформе», — сказал Блэкберн. «В своих показаниях г-н Моссери сказал, цитирую: «Мы глубоко заботимся о подростках в Instagram, и отчасти именно поэтому мы исследуем сложные проблемы, такие как издевательства и социальное сравнение, и вносим изменения». Согласны ли вы с его характеристикой?»
Бежар ответил: «Я согласен с тем, что они проводят исследования; Я не согласен с тем, что они вносят изменения».
«Разве это не факт, что социальные сети снизили цену быть придурком?» — спросил сенатор-республиканец от Луизианы Джон Кеннеди.
Бежар согласился. «Да, я думаю, используя ваш термин, они вознаграждают за то, что вы «дыра», — сказал он.
Бежар покинул Facebook в 2015 году, но вернулся в качестве консультанта, занимающегося вопросами благополучия пользователей, в 2019 году после того, как его дочь столкнулась с нежелательными сексуальными домогательствами. По его словам, хотя его дочь сообщила об инцидентах, Facebook ничего не предпринял.
Нанятый Facebook для изучения этого вопроса, Бежар сказал, что вскоре столкнулся с институциональными препятствиями.
«Мне кажется, что корпоративная культура – это «не видеть зла, не слышать зла», – сказал Бежар законодателям. «Мы не хотим понимать, что переживают люди. И мы не готовы инвестировать в это и в инструменты, которые помогут».
Ранее Meta заявляла, что ее стимулы совпадают с интересами пользователей по вопросам безопасности и что Meta агрессивно действует в отношении вредных материалов, поскольку знает, что пользователи не хотят их видеть. Но во вторник Бежар заявил законодателям, что, по его мнению, опыт пользователей значительно улучшится, если Цукербергу придется раскрывать данные опроса при каждом звонке о доходах о неудачном опыте на платформах компании, о котором он сам сообщил.
По данным Wall Street Journal, исследование Бежара показало, что более 1 из 4 пользователей в возрасте до 16 лет сообщили о «плохом опыте» в Instagram в результате «наблюдения за враждебностью к кому-либо на основании его расы, религии или личности».
«Более пятой части людей почувствовали себя хуже после просмотра постов других», — пишет журнал об исследовании Бежара, — «и 13% испытали нежелательные сексуальные домогательства за последние семь дней».
Другие данные исследования Бежара, представленные во вторник, включают в себя то, что, по словам Блюменталя, «почти треть молодых подростков сталкивались с дискриминацией по признаку пола, религии, расы и сексуальной ориентации».
Призыв к ответственности
Одно из ключевых обвинений Бежара заключается в том, что Meta вложила огромные ресурсы в автоматическое обнаружение явно нарушающего правила контента, одновременно отвлекая ресурсы от дорогостоящих человеческих проверок ситуаций, которые не нарушают аккуратно или явно правила Meta, но, тем не менее, могут причинять беспокойство пользователям.
По данным журнала, после того, как Бежар связался с Цукербергом, Сандбергом, Коксом и Моссери, Сэндберг написала ему лично, выразив сочувствие, и Моссери провел встречу с Бежаром, чтобы обсудить этот вопрос, сообщает журнал. Но Бежар, покинувший компанию несколько недель спустя, в октябре 2021 года, утверждает, что его жалобы остались без внимания и что он вообще никогда не слышал от Цукерберга.
По словам Хаугена, показания Бежара, которые являются частью федерального иска нескольких штатов против Меты, поданного в прошлом месяце, могут побудить больше информаторов высказаться. И это подчеркивает неполную картину, которую представила общественности, когда она впервые дала показания, добавила она.
Законодатели, в том числе Хоули и Блюменталь, во вторник пообещали попытаться протолкнуть к концу года громкий законопроект, известный как Закон о детской безопасности в Интернете, через финишную черту.
«Большие технологии находятся в большой опасности», — сказал Блюменталь, упомянув предыдущие действия правительства по ограничению вредных продуктов. Он сказал, что обычные американцы понимают «наносимый вред» и сравнили его с вредом от курения. Он сказал, что Big Tech — это «следующий большой табачный бизнес».
Саманта Келли из CNN предоставила репортаж.
