Meta разместила десятки платных объявлений с откровенным AI-сгенерированным CSAM и изображениями несовершеннолетних с сексуально провокационными надписями. Исследователи Tech Transparency Project (TTP) обнаружили больше 50 таких объявлений в рекламной библиотеке Meta. Реклама шла на Facebook, Instagram, Messenger и Threads, часть объявлений вела на так называемые nudify apps. Реклама была нацелена на жителей США, Великобритании и более чем десятка европейских стран.
Кэти Пол, директор TTP, заявила WIRED, что объявления не пытались скрыть изображения или то, что продвигают. Это не посты третьих лиц, а реклама, которую Meta проверила, одобрила и допустила к показу, получая деньги.
Meta удалила объявления за нарушение политик о материалах сексуального насилия над детьми и взрослой сексуальной активности. Все они были опубликованы в период с ноября прошлого года по начало августа. Некоторые показывались несколько дней, другие были нацелены только на мужчин.
Одно видео, по словам исследователей, использовало миниатюру с ребенком, сидящим на полу, и текстом: "Realizing Deep Fantasies with Generation AI [sic]. There is so much more than what is shown, use your imagination." При клике проигрывались откровенные видео со взрослыми, а лицо ребенка из миниатюры добавляли в сексуальную сцену. Другое неоднократно публиковавшееся объявление показывало девочку с разведенными ногами и подписью "I can show you more".
Большинство объявлений в момент находки активно не показывались, но месяцами оставались доступны в библиотеке Meta. По данным Meta, многие объявления охватили всего несколько аккаунтов, но одно достигло 2563 аккаунтов в Европе — во Франции, Германии, Ирландии, Италии, Нидерландах, Испании, Швеции и Великобритании. Так как база данных не содержит сведений об эффективности в США и всех странах, реальный охват может быть выше.
TTP наткнулась на объявления на прошлой неделе, расследуя рекламу nudify apps после отчета о китайском рекламном партнере. Организация сообщила о находках в NCMEC CyberTipline. Представитель NCMEC сказал, что не комментирует полученные отчеты.
После обращения WIRED Meta убрала объявления из рекламной библиотеки. Представитель Meta заявил: "Сексуальная эксплуатация ужасна, и мы агрессивно работаем над тем, чтобы не допускать ее на нашу платформу". Большинство объявлений имели минимальный охват, многие были отключены еще до обращения WIRED, а многие созданы до запуска новой технологии, которая лучше выявляет нарушающую рекламу при загрузке. Meta также сообщила об удалении более 36 миллионов единиц контента о сексуальной эксплуатации детей в прошлом году и о судебных исках против разработчиков nudify apps.