Evropský policejní úřad známý pod zkratkou Europol se ve své poslední zprávě rozhodl upřít svou pozornost směrem k hrozbám umělé inteligence. Konkrétně se zaměřil na nebezpečí tzv. deepfakes videí, které podle něj mohou vyvolat občanské nepokoje a polarizovat společnost.
Deepfakes jsou zjednodušeně řečeno falešná videa vytvářená počítačem pomocí metody deep learningu, tedy strojového učení v sítích umělé inteligence. Ve svých počátcích nebyla tato technologie natolik rozvinutá a rozeznání falešného videa od pravého nebylo tak složité. Problémem ale je, že v současné době už pravost videa nelze bez odborného zkoumání ověřit, na což upozorňuje i Europol.
Pro lepší představu je dobré uvést několik známých příkladů. Celosvětově známým se stalo třeba video s Barackem Obamou, na kterém mluví hanlivě o prezidentu Donaldu Trumpovi. Dalším příkladem mohou být slova Marka Zuckerberga o ovládání miliard lidí skrze ukradená data. V českém prostředí je pak známé třeba video s Milošem Zemanem a „čínskou stařenkou“.
S tím, jak se tato technologie vyvíjí a zlepšuje, je odhalování deepfakes videí stále složitější a nákladnější. A pro běžné uživatele internetu, kteří na své facebookové zdi nebo na Youtube vidí několik desítek sekund dlouhé video, které na první, druhý i třetí pohled vypadá jako pravé, jsou nebezpečí této technologie ještě větší.
Politické riziko narůstá
Europol proto naléhá, aby orgány činné v trestním řízení v jednotlivých členských zemích – zejména pak policejní orgány – investovaly do vývoje a využívání technologií, které jsou schopné falešná videa odhalit.
Některá taková videa jsou prostě jen vtipná a nezávadná. Čím dál častěji se však objevují upravená pornografická videa s falešnými obličeji. Například společnost Deeptrace, která se zaměřuje právě na využívání umělé inteligence v oblasti deepfakes, v září 2019 zaznamenala 15 tisíc deepfakes videí, což byl oproti předešlému roku dvojnásobný nárůst. Celých 96 % z těchto videí bylo pornografických, přičemž z toho celých 99 % zobrazovalo celebrity.
Europol ale upozorňuje, že neustále narůstá i riziko politické. Politicky motivovaná deepfakes videa mohou podle unijní agentury v budoucnu vyvolávat i občanské nepokoje nebo posilovat politickou polarizaci mezi uživateli internetu, a to pomocí šíření falešných zpráv a projevů známých politiků, které se budou zdát jako pravé.
Experti ve zprávě rovněž varují, že strůjci těchto videí se stále zdokonalují a učí se, jak současné monitorovací a ověřovací techniky přelstít.
„Deepfakes v tomto ohledu mohou představovat velkou výzvu současným forenzním audiovizuálním analýzám a ověřovacím technikám, které v současné době využívají příslušné orgány, média nebo neziskový sektor,“ uvádí zpráva Europolu.
Z toho důvodu Europol ve zprávě doporučuje příslušným vnitrostátním orgánům, aby se zaměřily na účinnější detekci a odhalování těchto falešných videí.
Hodně investujte a učte se, radí Europol
„Nezbytné jsou nejen významné investice k vytvoření nových monitorovacích technologií, které budou vyhledávat manipulace a nesrovnalosti ve vizuálním a zvukovém obsahu, ale i pravidelná aktualizace těchto technologií. Je třeba reflektovat vývoj technologií, které deepfakes videa vytváří,“ uvádí dále zpráva. Její autoři také uvádí, že při vytváření takových technologií mají policejní a jiné orgány spolupracovat i se soukromými společnostmi v oblasti technologického průmyslu.
Nejbližší možností, kdy by mohla EU představit konkrétní legislativní návrhy pro boj proti deepfakes, je v současné době připravovaný Akt o digitálních službách (Digital Services Act, DSA). Tento komplexní balíček návrhů bude pokrývat celou škálu oblastí, od moderace online obsahu na sociálních sítích přes zadávání politických reklam, regulaci algoritmů či reformu pravidel hospodářské soutěže v oblasti internetu.
Komise zákonodárnou iniciativu představí v prosinci, některé zdroje tvrdí, že DSA by mohl obsahovat i možnosti, jak bojovat proti hrozbám spojeným s deepfakes.
Kromě DSA se má problematice dezinformací a falešných zpráv obecně věnovat zejména Akční plán pro demokracii (European Democracy Action Plan), který má Komise zveřejnit rovněž v prosinci. Tato iniciativa se konkrétně zaměří na problematiku zahraničního vlivu a zasahování do demokratických procesů v Evropě právě pomocí šíření dezinformací a fake news.
Na druhou stranu je málo pravděpodobné, že by některý z těchto návrhů přikázal on-line platformám dezinformační a falešný obsah mazat.
„Pokud jde o boj proti dezinformacím a škodlivému obsahu obecně, měli bychom se zaměřit spíše na to, jak je tento obsah vytvářen a šířen mezi lidmi než tlačit na jeho povinné odstraňování,“ uvedla před nedávnem místopředsedkyně Komise pro hodnoty a transparentnost Věra Jourová.
