Vzestup nekrologního spamu

Koncem prosince 2023 bylo několik přátel Briana Vastaga a Beth Mazur zničeno, když se dozvěděli, že pár náhle zemřel. Vastag a Mazur zasvětili svůj život obhajobě postižených lidí a psaní o chronických onemocněních. Když se na Googlu objevily nekrology, členové jejich komunity se začali navzájem vytáčet, aby se podělili o strašlivou zprávu, a dokonce se dostali k lidem na prázdninách po celém světě.

Až na to, že Brian Vastag byl velmi živý a nevěděl o falešných nekrologech, které vyskočily na vrchol výsledků Vyhledávání Google. Beth Mazur ve skutečnosti zemřela 21. prosince 2023. Ale spamové články, které nyní zaplnily web, tvrdily, že toho dne zemřel i sám Vastag.

“[The obituaries] měl dopad na skutečný svět, kam volali nejméně čtyři lidé, o kterých vím [our] společnými přáteli a myslel jsem si, že jsem s ní zemřel, jako bychom měli sebevražednou smlouvu nebo co,“ říká Vastag, který byl nějakou dobu ženatý s Mazur a zůstal s ní blízko. “Některým mým přátelům to způsobilo zvláštní úzkost, a to mě opravdu rozzlobilo.”

„Beth Mazur a Brian Vastag Nekrolog, chronický únavový syndrom (CFS/ME) zabiti 2,“ stojí v jednom článku na webu s názvem Eternal Honoring. Další web s názvem In Loving Memories News říká: „Beth Mazur a Brian Vastag Nekrolog, chronický únavový syndrom (CFS/ME). Kromě článků prohlašujících, že Vastag byl mrtvý, existovalo mnoho falešných nekrologů o Mazurovi, napsaných s titulky clickbait-y a strukturami optimalizovanými pro vyhledávače.

“…volali alespoň čtyři lidé, o kterých vím.” [our] společnými přáteli a myslel jsem si, že jsem zemřel s ní, jako bychom měli sebevražednou smlouvu nebo tak něco.

The Verge identifikoval více než tucet webových stránek, které publikovaly články o Mazurově smrti, spolu s několika videi na YouTube, na nichž lidé čtou nekrology ze scénáře. Stránky mají podivná, neznámá jména a udržují neustálý proud článků o široké škále témat, včetně úmrtí jednotlivců po celém světě. Články jsou neohrabané a poskytují málo informací, ale jsou plné klíčových slov, která uživatelé Google hledají. Kromě desítek stránek, které píší o Mazurovi, existuje rozsáhlá síť vysoce postavených webových stránek, které vydělávají peníze, když rodina, přátelé a známí hledají informace o zesnulém člověku.

Stránky mají charakteristické znaky, že byly generovány pomocí nástrojů umělé inteligence. Vastag má podezření, že dezinformace o jeho zdánlivé smrti, například, by mohly být připsány tomu, že někdo seškrábal op-ed, který Vastag a Mazur spolunapsali (jeden článek tvrdící, že Vastag zemřel, se zdá být shrnutím AI). Nekrology jsou oddělené a téměř identické jeden s druhým, s několika přemístěnými slovy a opakujícími se nepřesné detaily, například kde žil Mazur. Články se začaly objevovat během jednoho dne po oznámení MEAction Network, neziskové organizace, kterou spoluzaložila.

Google se dlouho potýkal s tím, aby obsahoval nekrologní spam – po celá léta weby s návnadou pro SEO s nízkým úsilím vrněly na pozadí a po smrti jednotlivce se dostaly na vrchol výsledků vyhledávání. Stránky pak agresivně zpeněžují obsah tím, že načítají stránky s rušivými reklamami a profitují, když hledající kliknou na výsledky. Nyní se zdá, že široká dostupnost generativních nástrojů umělé inteligence urychluje záplavu nekvalitních falešných nekrologů.

„Seškrabování nekrologů“ je běžná praxe, která se týká nejen celebrit a osobností veřejného života, ale také průměrných soukromých osob. Pohřební ústavy se zabývají shromažďovacími stránkami nekrologů již nejméně 15 let, říká Courtney Gould Miller, hlavní strategie společnosti MKJ Marketing, která se specializuje na marketing pohřebních služeb. Tyto stránky prohledávají zpravodajské články a webové stránky místních pohřebních ústavů a ​​hledají první oznámení o úmrtí, která obsahují základní podrobnosti, jako je jméno, věk a místo, kde by se mohla konat služba. Poté obsah seškrábou a znovu publikují ve velkém měřítku pomocí šablonových formátů nebo stále častěji nástrojů AI.

Nekrology jsou oddělené a téměř identické jeden s druhým, s několika slovy přemístěnými a opakujícími se nepřesné detaily

Legacy.com je největší a nejrozšířenější verze agregátorů – ale neustále se objevuje nespočet menších a útržkovitějších webových stránek. Některé z těchto stránek obsahují nepřesné informace, jako je datum nebo místo vzpomínkového obřadu. Jiní shromažďují objednávky na květiny nebo dárky, které nedorazí včas, což frustruje rodinu a přátele a způsobuje bolesti hlavy místním pohřebním ústavům, říká Gould Miller. Agregační stránky pravidelně převyšují skutečné pohřební ústavy, které mají vztah s truchlícími rodinami.

“Myslím [Google is] sledování toho, kdo má nejvíce zpětných odkazů, kdo má největší autoritu, kdo má největší provoz, typické věci, na které se jejich algoritmy dívají. Agregátor toho všeho bude mít samozřejmě víc než místní pohřební ústav,“ říká Gould Miller. “Pro agregátory je to jádro podnikání, ne?” Vědí, že vyhledávací algoritmy Google jsou na jejich straně.“

„Google se vždy snaží zpřístupnit vysoce kvalitní informace, ale datová prázdná místa jsou známou výzvou pro všechny vyhledávače,“ řekl mluvčí Googlu Ned Adriance. The Verge v e-mailu. “Chápeme, jak znepokojivý může být tento obsah, a pracujeme na spuštění aktualizací, které výrazně zlepší výsledky vyhledávání pro dotazy, jako jsou tyto.” Adriance řekl, že Google ukončil několik kanálů YouTube, které nahlásil The Verge které sdílely SEO-návnadu nekrolog a úmrtní oznámení, ale odmítli sdělit, zda označené webové stránky porušují zásady společnosti Google týkající se spamu.

Poté, co Vastag objevil články, které tvrdily, že i on zemřel, nahlásil je Googlu v naději, že stránky odstraní z vyhledávání. Společnost poslala zpět předpřipravenou odpověď s tím, že označené stránky neporušují její zásady.

Některé weby chrlí neustálý proud clickbaitových novinových článků o zesnulých. Umělá inteligence problém jen zhoršila, protože je na první pohled těžší rozpoznat legitimitu nekrologů, když se rodina a přátelé ve smutku pečlivě nedívají na adresu URL článku nebo jeho autora.

Jeden web s názvem Thaiger je plný zpráv zahrnujících všechna představitelná témata. Jeho autoři sledují virální zpravodajské cykly, jako jsou politické dustupy na vysokých školách Ivy League. V kategorii zpráv z Thajska: „Mužské veřejné hovínko v thajském autosalonu vytváří online rozruch.“ Sekce Trendy obsahuje články jako „Překvapivé odhalení Pedra Pascala ukradne show na předávání cen Emmy 2024“ a další pastiše internetové clickbait z počátku 2010.

Příběhy o úmrtích jsou často označovány jako „trendy“, i když neexistuje žádný náznak, že by byl jednotlivec znám mimo jejich komunitu.

Ale mezi stovkami článků s drby o celebritách a rekapitulací videí TikTok jsou morbidní, robotické zápisky o smrti průměrných lidí, kteří nebyli veřejnými osobnostmi. Spisovatelé z The Thaiger – který sídlí v Bangkoku v Thajsku – občas denně chrlí více než 20 příběhů, včetně nekrologů SEO o lidech, kteří zemřeli po nemoci; vysokoškoláci, kteří zemřeli sebevraždou; a nezletilí, kteří měli smrtelné dopravní nehody. Příběhy mají podobnou strukturu, někdy používají stejné vágní fráze o zesnulém. Příběhy o úmrtích jsou často označeny jako „trendy“, i když neexistuje žádný náznak, že by byl jednotlivec znám mimo jejich komunitu, a články se zdají být agregací nebo přepisováním místních zpráv, příspěvků na sociálních sítích nebo skutečných nekrologů od rodiny.

Obsah na The Thaiger má znaky toho, že byl generován pomocí umělé inteligence. Nekrologové články jsou psány s nepopsatelnou gravitasí, používají se nepřirozené fráze jako „nesmazatelná stopa“, kterou člověk zanechal, nebo jeho „předčasný zánik“, ale bez jakýchkoli skutečných podrobností o jejich životě. Články jsou psány jako typické nekrology a zpravodajské články, ale postrádají citace od rodiny nebo přátel zesnulého a necitují zprávy zvenčí.

Nekrology objevující se na The Thaiger mají pro ně nelidskou, nevhodnou vlastnost. Některé články slibují „komplexní popis“ smrti nebo to, že „internet je plný zájmu“ o událost. „Očekávají se další aktualizace a zvědavé a znepokojené veřejnosti se doporučuje, aby zůstala naladěna na ověřené informace,“ stojí v jednom článku o smrti ženy z Calgary v Kanadě. Každý kout webu je plný reklam.

Stránka zaměstnanců společnosti Thaiger uvádí osm autorů, z nichž žádný nemá profily na LinkedIn a nejméně tři z nich jsou na záběrech vytvořeni umělou inteligencí. „Luke Chapman“, který se věnuje australským a novozélandským zprávám, má například na sobě rozepnutou košili s knoflíky, která má na obou stranách knoflíky. „Jane Nelsonová,“ která je popisována jako „ostřílená finanční novinářka“, má na sobě zlatý náhrdelník, který jí mizí v polovině hrudi. Dokonce i u profilů, které obsahují něco, co se jeví jako fotografie skutečných lidí, jsou autoři jako duchové – nikde jinde neexistuje žádný záznam o těchto novinářích.

Thaiger a generální ředitel Darren Lyons neodpověděli na několik žádostí o komentář. Po The Verge zeptal se na AI generované headshoty, Thaiger tiše odstranil autory ze stránky zaměstnanců spolu s jejich archivem článků.

Na jiném webu s názvem FreshersLive jsou články o lidech, kteří zemřeli, nemilosrdně optimalizovány pro Google. Klíčová slova jako „Beth Mazur“, „MEAction Network“ a „Chronic Fatigue Syndrome“ jsou posypány každých pár vět. Kopie je rozdělena do několika sekcí s podnadpisy řízenými SEO, například „Kdo byla Beth Mazur?“ a “Je Beth Mazur mrtvá?” Ve spodní části je dokonce sekce FAQ – temnější a krutější verze taktiky, která je po celém webu.

V e-mailové odpovědi na The VergeOsoba, která se identifikovala pouze jako „Dilip“, popřela, že by stránka používala nástroje AI, a uvedla, že se zaměstnanci pokoušejí kontaktovat rodinu zesnulého. Na otázku, jak FreshersLive nachází a hodnotí úmrtí, o kterých by bylo možné psát, “Dilip” odpověděl: “To je vysoce důvěrné.”

„Ať kdokoli přišel s [the articles] – neznali Beth, nic o ní nevědí,“ řekl Vastag The Verge. “Nemají žádné právo zveřejnit o ní nekrolog.”

Vastagův vlastní nekrolog pro Mazurovou byl zveřejněn 12. ledna, týdny poté, co zemřela. A přestože byly spamové stránky rychlejší, pouze Vastagův nekrolog zachycuje skutečnou osobu, kterou Mazur byl.

Než onemocněla, pracovala v technice – během posledních měsíců svého života také experimentovala s generativními nástroji umělé inteligence, jako je ChatGPT, řekl Vastag The Verge. Byla vtipná a chytrá a přátelé a kolegové na ni vzpomínají jako na vizionářskou organizátorku, která nehledala uznání za svou práci. Plánovala a pořádala tematické večírky pro přátele, tančila v Burning Man a pomáhala pacientům získat péči a zdroje. Žádný ze spamových nekrologů tyto skutečnosti samozřejmě nezmiňuje.

Leave a Reply

Your email address will not be published. Required fields are marked *