Автор эссе Дэвид Ральф Льюис считает, что генеративный ИИ помог мошеннической рекламе и спаму выйти за пределы привычных фильтров. В своей ленте YouTube он регулярно видит объявления о продуктах с заведомо невероятными обещаниями: программе тай-чи, обещающей супергеройскую форму за 20 дней, очках, которые якобы подстраиваются под любое зрение, USB-устройстве с бесплатным безлимитным интернетом и кондиционере размером с книгу, способном охладить любую комнату за 90 секунд. Он также упоминает рекламу мобильных игр, которых, вероятно, вообще не существует.
Главная претензия автора адресована не только мошенникам, но и площадкам. По его мнению, проверка рекламодателей и товаров стала слишком слабой: достаточно изготовить неубедительный ролик и оплатить показ, чтобы объявление попало к зрителям. Он связывает это с представлением о неизбежности ИИ, ценой которого становится размывание самого понятия достоверности. При этом массовая очевидность обмана не делает схему бесполезной: для окупаемости злоумышленникам нужно заинтересовать лишь небольшой процент зрителей.
Похожие изменения автор заметил в электронной почте. Ему пришло вежливое предложение о продвижении его сборника blackout-поэзии Our Voices in the Chaos. Текст пересказывал описание книги с сайта автора, говорил о поиске смысла среди хаоса и возвращении надежды, а также упоминал идеальную оценку 5,0 от первого читателя. На первый взгляд сообщение выглядело как внимательно подготовленный персональный питч.
Однако Льюис уверен, что отправитель не читал книгу, а направил языковую модель на страницу сайта и попросил составить рекламное предложение. Письмо повторяет формулировки страницы, но не учитывает главное: сборник бесплатно распространяется как PDF, поэтому автор не ищет платное продвижение и рейтинги. Он расценивает письмо как попытку фишинга, рассчитанного на деньги или информацию, — более персонализированную версию классического мошенничества, нацеленную на писателей и других авторов.
Готового решения Льюис не предлагает. В качестве первого шага он называет проверку самого существования продукта до приёма рекламы, но не ожидает, что крупные платформы добровольно откажутся от этого дохода. Читателям же, по его мнению, остаётся бдительность и постоянная проверка достоверности, хотя такая нагрузка утомляет.