Revoluce v pornu? Falešné Claudii naletěli důvěřivci, umělá inteligence se obejde bez živých sexbomb

Obrázek ukazuje tvář dívky s dlouhými tmavými vlasy a jemným úsměvem, komentář říká „dnes se cítím krásná :)“. Profil na sociální síti Reddit se jmenuje Claudia (Cl4ud14_) a vedle jedné nevinné fotky a dvou lechtivých, které ukazuje, pak nabízí každému poslat fotky ještě odvážnější do soukromé zprávy – za poplatek. „Ty krávo, ty jseš krásná!“ komentoval například jeden z uživatelů. Nejspíš ale, jako mnoho dalších uživatelů zvědavých na rajcovní fotky, naletěl.

Claudia (Cl4ud14_) je krásná, vilná - a umělá. Vygeneroval ji program Stable Diffusion. | Reddit

„Pro ty, kdo nevědí, rozbiju vám iluzi. Jedná se o výtvor umělé inteligence. Když jste s obrazovými modely umělé inteligence pracovali dostatečně dlouho a tvořili i vlastní, poznáte to na 10000 %. Sorry, že vám kazím překvapení. Čekal jsem, že něco takového jednou přijde,“ komentoval MeysterA. Výtvor víceméně chválí. „Ať už používáte jakákoliv zadání, zkuste přidat vady a nedokonalosti, tohle vypadá příliš zpracovaně, ale jinak dobré, jen tak dál. Upřímně řečeno, je to skvělý příklad, jestli se AI dokáže prodat bez povšimnutí.“

„Tato fotka může být generována umělou inteligencí, nebo nemusí. Každopádně to není proti našim pravidlům,“ doplnili posléze pod obrázek oznámení moderátoři vlákna. „Prosíme, nenahlašujte tuto fotku. Moderátoři jsou si situace vědomi.“

Rapidní rozvoj AI generátorů obrázků jako Midjourney, DALL-E a Stable Diffusion v minulých týdnech poutal pozornost pro nejrůznější výtvory – fake obrázky zatčeného Donalda Trumpa i „vytuněného“ papeže v módní bundě, ale i pro kreativní obrázky typu, jak by Dalí namaloval Bali.

Případ falešné Claudie je dalším aspektem rozvoje technologií. Každému snadno umožňuje vytvářet ohromně realistické obrázky, což může výrazně proměnit pornografii – jak se vytváří i jak se konzumuje.

Pozor, tohle nejsou reálné modelky! Umělá inteligence otřásá i světem módy

Tvůrci Claudie to pojali jako experiment, žert. Jinde na Redditu se dočetli, že si kdosi vydělal 500 dolarů rozesíláním fotek cizích žen. Tak to zkusili totéž s AI výtvory programu Stable Diffusion.

„Dá se říci, že celý tento účet je jen zkouškou, zda lze lidi obalamutit AI obrázky,“ svěřili se tvůrci – dva studenti počítačových věd – magazínu Rolling Stone; svá jména neprozradili. „Upřímně jsme nečekali, že se to tak rozjede.“ Zájemci se našli, studenti utržili nějakých sto dolarů (přes 2000 Kč). A cítí se jako podvodníci? „Nikdy jsme netvrdili, že to jsou obrázky skutečné osoby, a kupci se nikdy neptali. Jen předpokládali,“ svěřili se. „Nevíme, co si o tom myslet. Kdo si to koupil, je s koupí spokojený, chtěl prostě porno.“

Podvrh se pozná z detailu

Cvičené oko má šanci poznat, že jde o syntetický „podvrh“, většinou z podružných detailů. Okolo Claudie bylo poněkud podezřelé pozadí - z jedné strany její hlavy byl na stropě vidět trám, z druhé ne. Další podezření: pokožka. „Příliš hladká, příliš ‚dokonalá‘,“ komentoval jeden z uživatelů Redditu. Na různých snímcích buď měla, nebo neměla bradavici na krku. Stopou také může být rozměr obrázku - šířku 512 pixelů má standardní výstup Stable Diffusion. Kdo by to s šířením podvrhů myslel vážně, může si ještě dát práci a obrázky upravit, začistit, zahladit stopy.

Na sociálních sítích Instagram, Reddit a Twitter a na webu OnlyFans se občas prodávají prostřednictvím soukromých zpráv erotické fotky a videa. Podle výzkumníků oslovených redakcí Washington Postu tam už působí další účty, jež místo fotek skutečných nahotinek předvádějí AI obrázky. Nikdo z „podezřelých“ se pro Washington Post nevyjádřil.

Londýnská firma Stability, jež stojí za programem Stable Diffusion, porno zakazuje - tedy vytváření obrázků, jež by „rozumná osoba mohla shledávat obscénními, oplzlými či pornografickými“. Jenže program si může každý stáhnout do počítače a firma mu v takové tvorbě nemá jak zabránit.

Už léta je pornografie průkopníkem nových technologií – videokazety, DVD, 3D, virtuální realita, streamování videí... AI nástroje pro tvorbu obrázků v tom pokračují. Na diskusních fórech, které se věnují vytváření a zdokonalování syntetických lidí (z velké většiny takto vznikají obrázky dívek a žen), jsou zaregistrovány tisíce účtů. Takový rychlý rozvoj by mohl narušit mnohamiliardový průmysl, podkopat poptávku po skutečných modelkách a herečkách, ale i podnítit hlubší obavy z objektivizace a vykořisťování žen.

Umělá inteligence je plagiátor

Jasně přes čáru je vytváření falešného porna se skutečnými lidmi - celebritami nebo vašimi známými. Někteří je vyrábějí na objednávku bez skrupulí, už od pěti dolarů, uvádí NBC News. „Deepfake porno by mělo být nelegální, je skutečně problematické,“ řekl pro Rolling Stone Hany Farid, který přednáší počítačovou vědu na Kalifornské univerzitě v Berkeley. Fiktivní porno je složitější záležitost.

Není to totiž tak úplně originální výtvor - umělou inteligenci její tvůrci naučili „tvořit“ tak, že jí ukázali miliardy nejrůznějších obrázků dostupných na internetu. Původní fotografové či majitelé práv, potažmo zobrazované osoby, jim nejspíš nedali souhlas k něčemu takovému. Vaši fotku z Facebooku takto může některý AI program reprodukovat tak, že bude poznat - a navíc ji třeba přetvoří do něčeho pohoršujícího. „Nemyslím, že je to pravděpodobné, nebude se to dít často, ale může se to stát. A skutečnost, že se to stát může, je důležitá,“ varuje Farid.

„Schopnosti AI se ještě pořád přeceňují. Neviděla jsem nic, co by naznačovalo, že by to dokázalo vytvořit video, které vypadá jako člověk při sexu,“ komentovala pro Rolling Stone Ashley, která pro pornoherečky řeší nejrůznější problematiku technologických platforem. Výhledově to asi přijde a jistou konkurencí to bude, ale autentické pornoherečky o obživu podle ní nepřijdou. Přirovnává to k domácím, ručním pracím, které jsou dražší než konfekce. „Lidi si připlácejí za nejrůznější rukodělnou výrobu. Může to být marketingový přístup, který zafunguje.“

„Nemyslím si, že strojové učení může vytvořit osobnost. Může ji replikovat, ale pořád bude chybět lidská jiskra, spontaneita,“ soudí Mark Spiegler, agent pornohereček jako Asa Akira a Riley Reid.

„Čuměl jsem s otevřenou pusou.“ Umělá inteligence mezi českými politiky budí obdiv i obavy

A necítí se zákazníci a uživatelé porna podvedeni, když zjistí, že dostali AI výtvor? „Je to strašidelné, bude těžké rozlišit mezi AI a skutečnou osobou,“ je na rozpacích uživatel Redditu Lanky_Grade_268.

„Myslím, že průměrnému člověku, který se na tyhle věci dívá, je to jedno,“ řekl Washington Postu jeden z konzumentů i tvůrců takového obsahu. Profesí je ajťák v nemocnici, nyní našel zálibu ve vytváření fetišistických fotografií dospělých žen v plenkách pomocí programu Stable Diffusion. Ostatně ani fotky či historky, které nahrávají skuteční lidé, nepovažuje za zrovna důvěryhodné. „Neočekávám, že osoba, na kterou se dívám online, je tou osobou, za kterou se vydává. Nehodlám se s tou osobou setkat v reálném životě. Koho to vlastně zajímá, že nejsou skutečné?“

„Můj názor na ten obrázek se nezměnil,“ popsal na Redditu Ryan5197 poté, co se dozvěděl skutečný původ Claudie. „Pořád je to pěkná postava.“