Нью-Йорк CNN —
Meta подала в суд на гонконгского разработчика приложения CrushAI — платформы, способной создавать откровенные сексуальные дипфейки. утверждая что он неоднократно обходил правила социальной сети при покупке рекламы.
Этот иск является частью того, что Meta (META) описывает как более масштабные усилия по борьбе с так называемыми «обнажающими» приложениями — которые позволяют пользователям создавать обнаженные или сексуализированные изображения из фотографий чьего-либо лица, даже без его согласия — после заявлений о том, что гигант социальных сетей не смог адекватно отреагировать на рекламу этих услуг на своих платформах.
По данным жалобы, поданной Meta в четверг в окружной суд Гонконга, по состоянию на февраль производитель CrushAI, также известный как Crushmate и под несколькими другими названиями, разместил на платформах Meta более 87 000 объявлений, нарушающих его правила.
Meta утверждает, что производитель приложения Joy Timeline HK Limited нарушил свои правила, создав сеть из не менее 170 бизнес-аккаунтов на Facebook или Instagram для покупки рекламы. У производителя приложения также якобы было более 55 активных пользователей, управляющих более чем 135 страницами Facebook, на которых показывалась реклама. Реклама в первую очередь была нацелена на пользователей в США, Канаде, Австралии, Германии и Великобритании.
«Каждый, кто создает учетную запись на Facebook или пользуется Facebook, должен согласиться с Условиями предоставления услуг Meta», — говорится в жалобе.
Некоторые из этих объявлений включали сексуальные или обнаженные изображения, созданные искусственным интеллектом. и были снабжены подписями вроде «загрузите фото, чтобы раздеться на минуту» и «сотрите всю одежду на девушках», согласно иску.
CNN обратилась к Joy Timeline HK Limited за комментариями по иску.
Технологические платформы сталкиваются с растущим давлением, требующим принятия более активных мер по борьбе с неконсенсуальными, явными дипфейками, поскольку ИИ делает создание таких изображений проще, чем когда-либо. Цели таких дипфейков В число таких известных личностей, как Тейлор Свифт и представительница Александрия Окасио-Кортес, а также старшеклассницы по всей территории США, вошли такие известные личности, как Тейлор Свифт и Александрия Окасио-Кортес. Закон Take It Down Act, который делает незаконным для отдельных лиц распространение несогласованных, откровенных дипфейков в сети и требует от технических платформ быстро удалять их, был подписан в прошлом месяце.
Но ряд СМИ Отчеты последних месяцев свидетельствуют о том, что эти сервисы искусственного интеллекта, которые делают обнаженными, нашли свою аудиторию благодаря рекламе на платформах Meta.
В январе отчеты технологического бюллетеня Faked Up и издания 404Media обнаружили, что CrushAI опубликовал тысячи объявлений в Instagram и Facebook, и что 90% трафика приложения поступает с платформ Meta. И это несмотря на то, что Meta запрещает рекламу, содержащую взрослую наготу и сексуальную активность, а также запрещает распространение несогласованных интимных изображений и контента, пропагандирующего сексуальную эксплуатацию, издевательства и домогательства.
После этих сообщений сенатор Дик Дурбин, демократ и высокопоставленный член юридического комитета Сената, написал генеральному директору Meta Марку Цукербергу письмо с вопросом «как Meta допустила такое и что Meta делает для противодействия этой опасной тенденции».
Ранее в этом месяце CBS News сообщила, что обнаружила сотни рекламных объявлений, пропагандирующих обнажение. приложения на платформах Meta, включая рекламу, в которой использовались сексуализированные изображения знаменитостей. Другие объявления на платформах В отчете говорится о веб-сайтах, утверждающих, что они анимируют фейковые изображения реальных людей, чтобы они выглядели совершающими половые акты. В ответ на этот отчет Meta заявила, что «удали эту рекламу, удалили страницы, ответственные за ее показ, и навсегда заблокировали URL-адреса, связанные с этими приложениями».
Усилия Meta по борьбе с дипфейками и сексуальной эксплуатацией
Meta утверждает, что проверяет рекламу перед ее запуском на своих платформах, но ее жалоба указывает на то, что она испытывает трудности с обеспечением соблюдения своих правил. Согласно жалобе, некоторые из объявлений CrushAI откровенно рекламируют ее обнажение Возможности с подписями, например, «Вы когда-нибудь хотели стирать чью-то одежду? Представляем нашу революционную технологию» и «Удивительно! Это программное обеспечение может стирать любую одежду».
Теперь Meta заявила, что ее иск против производителя CrushAI направлен на то, чтобы помешать ему в дальнейшем обходить свои правила для размещения рекламы на своих платформах. Meta утверждает, что потеряла $289 000 из-за расходов на расследование, ответов регуляторам и обеспечения соблюдения своих правил против производителя приложений.
Когда в четверг компания объявила об иске, она также заявила, что разработала новую технологию для определения подобных типов рекламы, даже если сама реклама не содержала наготы. «Специализированные команды» Meta объединились с внешними экспертами для обучения автоматизированных систем модерации контента для обнаружения терминов, фраз и эмодзи, часто присутствующих в такой рекламе.
«Это враждебное пространство, в котором люди, стоящие за ним, — которые в первую очередь мотивированы финансово — продолжают развивать свою тактику, чтобы избежать обнаружения», — говорится в заявлении компании. «Некоторые используют безобидные изображения в своей рекламе, чтобы не попасться нашей технологии обнаружения наготы, в то время как другие быстро создают новые доменные имена, чтобы заменить веб-сайты, которые мы блокируем».
Meta заявила, что начала делиться информацией о приложениях с обнажением, пытающихся рекламироваться на ее сайтах, с другими технологическими платформами через программу Lantern, которой руководит отраслевая группа Tech Coalition. Технологические гиганты создали Lantern в 2023 году для обмена данными, которые могут помочь им бороться с сексуальной эксплуатацией детей в Интернете.
Усилия по борьбе с приложениями deepfake последовали после того, как Meta отключила некоторые из своих автоматизированных систем удаления контента, что вызвало негативную реакцию со стороны экспертов по безопасности в Интернете. Ранее в этом году Цукерберг объявил, что эти системы будут сосредоточены только на проверке незаконных и «серьезных» нарушений, таких как терроризм, сексуальная эксплуатация детей, наркотики, мошенничество и аферы. Пользователи должны сообщать о других проблемах, прежде чем компания оценит их.
