Расследование Би-би-си исследовало, как и почему международная сеть спамеров публикует сгенерированные ИИ изображения жертв Холокоста на Facebook.
Организации памятио Холокосте утверждают, что такие изображения наносят ущерб выжившим и семьям жертв.
Они также критиковали материнскую компанию Facebook Meta, утверждая, что она позволяет пользователям превращать трагедию в «эмоциональную игру».
Из лагеря Освенцим Второй мировой войны существует только несколько реальных фотографий.
Но в последние месяцы спамеры с помощью ИИ распространяют поддельные изображения, которые, по-видимому, сделаны внутри лагеря, например, заключенные играют на скрипке или влюбленные встречаются за пределами парков. Такие публикации собирают десятки тысяч лайков и система, которая платит пользователям за контент с высокой популярностью и просмотрами.
Один из аккаунтов поимени Абдул Мугис, местом жительства которого является Пакистан, разместил скриншоты предполагаемого заработка в размере $ 20 000 через схемы монетизации контента, в том числе в Meta. В другом посте говорится, что он якобы получил более 1,2 миллиарда просмотров за четыре месяца.
BBC не смогла самостоятельно подтвердить ни один из этих доходов.
Среди множества постов на аккаунте Абдула Мугиса есть несколько генереров фотографии с искусственным интеллектом вымышленных жертв Холокоста и фальшивых историй, в том числе ребенка, скрывающегося под полом, или младенца, оставленного на железнодорожных путях возле концентрационного лагеря.
Анализ BBC этого аккаунта и десятков подобных показывает, что они распространяют почти исключительно так называемый «ИИ-слоп» – низкокачественный, массово созданный ИИ контент, размещенный в социальных сетях или на веб-сайтах, обычно с целью заработка или обмана взглядов.
Освенцим стал популярной темой для исторических страниц и групп. Некоторые с такими названиями, как «Вечные сказки» и «Историческая гавань», публиковали более 50 постов в день.
В июне Музей Освенцима предупредил, что такие аккаунты крадут его публикации, прогоняют их через модели ИИ и часто искажают исторические факты или полностью выдумывают события и жертв.:19)«Они не совсем понимают, что они видят», – говорит д-р Роберт Уильямс из Международного альянса в память о Холокосте.
Он отметил, что пережившие Холокост чувствуют «определенную печаль, когда им разрешают это сделать», несмотря на общественные и благотворительные инвестиции в информационно-пропагандистские кампании.
Они чувствуют, что их усилий недостаточно, – говорит он. – Это очень печально, потому что скоро нас покинут последние свидетели.
Мета сознательно не поощряет пользователей к распространению фейковых историй, в том числе о Холокосте, но ее система вознаграждает посты высоким взаимодействием. BBC также определила учетные записи ИИ в Индии, Вьетнаме, Таиланде и Нигерии.
Чтобы понять, почему эти сети массово создают определенные типы контента, BBC поговорила с пакистанцем Фазалом Рахманом, который участвует в нескольких программах в тех же группах Facebook, что и те, кто это делает.
По словам Рахмана, страница Facebook с 300 000 подписчиков может зарабатывать владельцу 1000 долларов в месяц, если у нее есть «премиум-контент», ориентированный на более богатую аудиторию из Великобритании, США и Европы. Он подсчитал, что просмотры с Запада стоят в восемь раз дороже, чем просмотры из Азии.
Он также отметил, что исторические темы являются стабильным драйвером интернет-трафика.
Другие создатели контента, похоже, согласны. Би-би-си видела обучающие видео с пошаговым объяснением того, как популярные модели ИИ могут использоваться для непрерывного создания поддельных исторических изображений и текстов.
В одном видео автор попросил чат-бота ИИ перечислить ключевые исторические события для создания контента, и среди ответов был Холокост.
Некоторые советы креатора вводит в заблуждение – например, выдает ваши страницы за другие организации, чтобы создать аудиторию и получить доступ к приложению Meta’s CM.
Функция Facebook Page Transparency позволяет пользователям видеть предыдущие заголовки страниц. Используя его, Би-би-си нашла много страниц, которые публиковали «ИИ-слоп» о Холокосте, но ранее притворялись официальными пожарными департаментами в Соединенных Штатах, коммерческими компаниями, и американских инфлюенсеров – все это без их согласия.
Согласно публичным постам, эти страницы также могут быть проданы или сданы в аренду тем, кто хочет выйти на рынок контент-мейкеров.
Би-би-си связалась с Meta по поводу нескольких профилей, которые публиковали ИИ-контент о Холокосте и в то же время прибегали к обманным практикам.
Несколько таких профилей и групп были удалены, в том числе те, на которые Мемориал Освенцима жаловался еще в июне.
Пресс-секретарь технологического гиганта сказал, что хотя сами поддельные изображения не нарушали правил платформы, страницы проверили и обнаружили нарушения правил о выдаче себя за других и торговых страниц.
«Мы удалили страницы и группы, о которых нам сообщали, и заблокировали аккаунты за нарушение наших правил о спаме и недостоверном поведении», – сказал он.
Предупреждает, что это может создать ощущение фабрикации истории.
«Следует избегать любой крайности в манипуляциях», – говорит он.
Материал подготовлен при участии Умера Драза Нангяна, BBC Urdu
В Украине многие пользователи соцсетей также жалуются на созданные ИИ-изображения, на которых часто изображены якобы украинские военные с просьбой поставить лайк фотографии, потому что никто не поздравил их с днем рождения. Тысячи украинцев реагируют на такие не слишком натуральные, но очень чувствительные фотографии. Возможно, что они похожи на схемы, описанные в расследовании.
