AI „odpálila“ Pentagon. Odhalit podvod už skoro nejde, varují experti

V pondělí obletěl sociální sítě hořící Pentagon. Obrázky, které zřejmě někdo vytvořil za pomocí AI (z anglického Artificial intelligence neboli umělá inteligence, pozn. red.), dokonce na chvíli ovlivnily akciové trhy.

Na sítích se šířila falešná zpráva o explozi u Pentagonu, nastínila úskalí AI

Takzvaný „deepfake“ obsah existuje již roky, v současnosti je však už takřka nemožné rozpoznat, jestli je fotografie autentická, nebo vytvořená AI. Podle odborníků může být do roku 2026 až devadesát procent online mediálního obsahu vytvářeno synteticky.

Tato čísla uvádí report Europolu(Agentury Evropské unie pro spolupráci v oblasti prosazování práva) o deepfakes. „Ve většině případů se syntetická média generují pro hry, zlepšení služeb nebo kvality života, ale přibývání syntetických médií a zlepšování technologií znamená i možnosti dezinformací, včetně deepfakes,“ píše se v reportu.

Různé systémy umělé inteligence, jako jsou DALL-E, Midjourney nebo Stable Diffusion, jsou odlišné v tom, jak přesvědčivé obrázky dokážou vytvořit. Liší se také typické znaky, které mohou prozradit, že obrázek byl vytvořen algoritmem.

Okna na fotce se nikomu počítat nechce

AI měla v minulosti kupříkladu problémy napodobit lidské ruce a často vytvářela deformované končetiny s příliš mnoha prsty. Objevovaly se problémy s očima, kdy každé oko koukalo jinam.

„S pomocí nástrojů typu Midjourney V5 je kvalita AI fotografií na takové úrovni, že jí od originálu prakticky nikdo nerozezná. V rukou dezinformátorů je to velmi užitečná zbraň,“ říká Jan Řezáč, konzultant webů, který se zaměřuje na využití AI v praxi.

Umělá inteligence vyhrála slavnou soutěž fotografů. Nikdo nic nepoznal

Někteří uživatelé, například na sociální síti Twitter, fotografie vytvořené AI sami prezentují jako dílo generované umělou inteligencí. Spoléhat se na to ale dle Řezáče nedá.

„I kdyby vyvinul Facebook nebo Twitter technologii, která by umělý obsah rozpoznávala, dezinformátoři by rychle přišli na způsob, jak ho obejít,“ myslí si Řezáč.

O zneužitelnosti nástrojů umělé inteligence mluví také Tereza Kráčmarová ze spolku Fakescapes, který propaguje mediální gramotnost mezi dětmi a učí je rozpoznávat „fejky“ na internetu pomocí hry.

Velký problém je podle ní stále horší ověřitelnost totožnosti uživatelů na sociálních sítích. „Na Twitteru už může mít modrý odznáček značící ověření každý, kdo si za něj zaplatí. Spolu s tím, že si můžete umělou inteligencí nechat vygenerovat profilovou fotografii se tak obrana před těmito trolly zhoršuje,“ varuje Kráčmarová a dodává, že právě takové účty nejčastěji dezinformace typu hořící Pentagon sdílí.

Podle ní stojí za virálností takových případů především zbrklost a šok uživatelů. Ne každý si třeba ověřuje původ sdílených informací. „Při detailnějším pohledu lze takto vytvořený obrázek odhalit. Je však nutné si k tomu vzít například starší fotku Pentagonu a spočítat okna, což se nikomu moc nechce,“ doplňuje Kráčmarová.

Podle společnosti Meta (majitel Facebooku) mají až dvě třetiny dezinformačních účtů na svých profilech právě obrázek vytvořený umělou inteligencí. Tyto účty mají obrázek neexistujícího člověka, kterého AI vytvořila.

„Ne každý používá ty nejvíce sofistikované nástroje, při detailním rozboru lze rozpoznat, že s fotografií není něco v pořádku. V budoucnu však můžeme očekávat zlepšení těchto technologií, kdy již lidské oko takovýto padělek nerozpozná. Ocitneme se v boji AI proti AI, jedna bude padělky tvořit, druhá rozpoznávat,“ říká Kráčmarová.

Co je a co není fake

Problémem budou podle expertů také videa. Mezi známé deepfakes patří třeba zfalšované porno, v lechtivých scénách se objevily třeba Emma Watson nebo Scarlett Johansson.

S pokročilými AI nástroji však podle Řezáče nebude pro kohokoli se základními technickými znalostmi těžké vytvořit video s jakoukoliv reálnou postavou. Takto už například nedávno dezinformátoři upravili video amerického prezidenta Joe Bidena, který měl ohlásit obnovení branné povinnosti kvůli válce na Ukrajině.

Podle experta budou dokonale upravená videa dalším krokem v evoluci umělé inteligence. „Tím pádem nebude možné využívat fotografie a videa například jako důkazní materiál u soudů. Nebude možné rozeznat, co je a co není pravda,“ předvídá Řezáč.