Mohou nás vodoznaky zachránit před deepfake?

Video Elizabeth Warrenové, která říká, že republikáni by neměli volit, se stalo virálním v roce 2023. Ale nebyl to Warren. To video Rona DeSantise také nebyl guvernér Floridy. A ne, papež František neměl na sobě bílý plášť Balenciaga.

Generativní AI usnadnila vytváření deepfakes a jejich šíření po internetu. Jedno z nejběžnějších navrhovaných řešení zahrnuje myšlenku vodoznaku, který by identifikoval obsah generovaný AI. Bidenova administrativa udělala velký problém z vodoznaků jako politického řešení, dokonce konkrétně pověřila technologické společnosti, aby našly způsoby, jak identifikovat obsah generovaný AI. Prezidentův výkonný příkaz k AI, vydaný v listopadu, byl postaven na závazcích vývojářů AI, že vymyslí způsob, jak označit obsah jako generovaný AI. A nepřichází to jen z Bílého domu – zákonodárci také sledují zakotvení požadavků na vodoznak jako zákon.

Vodoznak nemůže být všelék – za prvé, většina systémů jednoduše nemá kapacitu označovat text tak, jak může označovat vizuální média. Přesto jsou lidé s vodoznaky dostatečně obeznámeni, takže myšlenka vodoznaku na obrázek vygenerovaný AI je přirozená.

Téměř každý viděl obrázek s vodoznakem. Getty Images, která distribuuje licencované fotografie pořízené na akcích, používá vodoznak tak všudypřítomný a tak rozpoznatelný, že jde o jeho vlastní meta-meme. (Ve skutečnosti je vodoznak nyní základem Gettyho žaloby proti platformě AI generace Midjourney, přičemž Getty tvrdí, že Midjourney musel vzít jeho obsah chráněný autorskými právy, protože ve svém výstupu generuje vodoznak Getty.) Umělci samozřejmě podepisovali své funguje dávno před digitálními médii nebo dokonce před vznikem fotografie, aby lidé věděli, kdo obraz vytvořil. Ale samotný vodoznak — podle Historie grafického designu — začalo ve středověku, kdy mniši měnili tloušťku tiskového papíru, dokud byl vlhký, a přidávali vlastní značku. Digitální vodoznaky vzrostly v 90. letech s rostoucí popularitou digitálního obsahu. Společnosti a vlády začaly umisťovat značky (skryté nebo jiné), aby bylo snazší sledovat vlastnictví, autorská práva a pravost.

Vodoznaky budou, stejně jako dříve, stále označovat, kdo vlastní a vytvořil média, na která se lidé dívají. Ale jako politické řešení problému deepfakes by tato nová vlna vodoznaků v podstatě označovala obsah jako generovaný umělou inteligencí nebo člověkem. Adekvátní tagování od vývojářů AI by teoreticky také ukázalo původ obsahu generovaného AI, čímž by se navíc řešila otázka, zda byl při jeho tvorbě použit materiál chráněný autorskými právy.

Technické společnosti přijaly směrnici Biden a pomalu uvolňují svá řešení pro AI vodoznaky. Vodoznak se může zdát jednoduchý, ale má jednu podstatnou slabinu: vodoznak nalepený na obrázek nebo video lze snadno odstranit úpravou fotografií nebo videa. Úkolem je tedy vytvořit vodoznak, který Photoshop nedokáže smazat.

Úkolem je tedy vytvořit vodoznak, který Photoshop nedokáže smazat.

Společnosti jako Adobe a Microsoft – členové průmyslové skupiny Coalition for Content Provenance and Authenticity neboli C2PA – přijaly Content Credentials, standard, který přidává funkce k obrázkům a videím jeho původu. Společnost Adobe vytvořila symbol pro pověření obsahu, který se vkládá do média; Microsoft má také svou vlastní verzi. Content Credentials vkládá určitá metadata – například kdo vytvořil obrázek a jaký program byl použit k jeho vytvoření – do médií; v ideálním případě budou moci lidé kliknout nebo klepnout na symbol a podívat se na tato metadata sami. (Zda tento symbol může trvale přežít úpravy fotografií, se ještě musí prokázat.)

Mezitím Google uvedl, že v současné době pracuje na tom, co nazývá SynthID, vodoznak, který se vkládá do pixelů obrázku. SynthID je lidským okem neviditelný, ale stále detekovatelný pomocí nástroje. Digimarc, softwarová společnost, která se specializuje na digitální vodoznaky, má také vlastní funkci AI vodoznaku; přidává k obrázku strojově čitelný symbol, který ve svých metadatech ukládá informace o autorských právech a vlastnictví.

Všechny tyto pokusy o vodoznak mají za cíl buď učinit vodoznak nepostřehnutelným lidským okem, nebo převést těžkou práci na strojově čitelná metadata. Není divu: tento přístup je nejjistějším způsobem, jak lze informace uložit, aniž by byly odstraněny, a povzbuzuje lidi, aby se blíže podívali na původ obrázku.

To je všechno v pořádku, pokud to, co se snažíte vybudovat, je systém detekce autorských práv, ale co to znamená pro deepfakes, kde je problém, že omylné lidské oči jsou klamány? Vodoznaky zatěžují spotřebitele a spoléhají na pocit jednotlivce, že něco není v pořádku. Lidé však obecně nemají ve zvyku kontrolovat původ čehokoli, co vidí online. I když je deepfake označen výmluvnými metadaty, lidé mu stále propadnou – nesčetněkrát jsme viděli, že když jsou informace ověřeny online, mnoho lidí stále odmítá věřit ověřeným informacím.

Odborníci se domnívají, že obsahová značka nestačí k tomu, aby zabránila dezinformacím dostat se ke spotřebitelům, tak proč by vodoznak fungoval proti deepfakes?

Zdá se, že nejlepší věc, kterou můžete o vodoznakech říci, je, že je to alespoň něco. A vzhledem k obrovskému rozsahu toho, kolik obsahu generovaného umělou inteligencí lze rychle a snadno produkovat, je malé tření daleko.

Ostatně na základní myšlence vodoznaku není nic špatného. Viditelné vodoznaky signalizují autenticitu a mohou povzbudit lidi, aby byli skeptičtější k médiím bez nich. A pokud se divák skutečně zajímá o autenticitu, vodoznaky mu tuto informaci přímo poskytují.

Zdá se, že nejlepší věc, kterou můžete o vodoznakech říci, je, že je to alespoň něco.

Vodoznak nemůže být dokonalým řešením z důvodů, které jsem uvedl (a kromě toho vědci dokázali rozbít mnoho systémů vodoznaků). Ale funguje to v tandemu s rostoucí vlnou skepticismu vůči tomu, co lidé vidí online. Musím se přiznat, že když jsem to začal psát, věřil jsem, že je snadné oklamat lidi, aby věřili, že opravdu dobré fotografie DALL-E 3 nebo Midjourney vytvořili lidé. Uvědomil jsem si však, že diskurz o umění AI a deepfakes pronikl do povědomí mnoha chronicky online lidí. Namísto přijímání titulků časopisů nebo příspěvků na Instagramu jako autentických je nyní spodní proud pochybností. Uživatelé sociálních sítí pravidelně zkoumají a oslovují značky, když používají AI. Podívejte se, jak rychle internetoví detektivové vyvolali úvodní titulky Tajná invaze a plakáty vygenerované umělou inteligencí Skutečný detektiv.

Stále není vynikající strategií spoléhat se na skepsi, zvědavost nebo ochotu člověka zjistit, zda je něco generováno AI. Vodoznak může být dobrý, ale musí existovat něco lepšího. Lidé více pochybují o obsahu, ale ještě tam nejsme úplně. Jednoho dne možná najdeme řešení, které sděluje, že něco vytvořila umělá inteligence, aniž bychom doufali, že divák bude chtít zjistit, zda tomu tak je.

Prozatím je nejlepší naučit se rozeznávat, zda video skutečně není politika.

Leave a Reply

Your email address will not be published. Required fields are marked *