Indický politik použil v kampani video upravené umělou inteligencí. K voličům promluvil různými jazyky
Videa upravená pomocí umělé inteligence našla v poslední době využití zejména ve spojení s pornografií. Technologie, známá z takzvaných deepfake, se ale zřejmě poprvé uplatnila v rámci předvolební kampaně. Jak upozornil americký server Vice, voliči v indickém Dillí si díky tomu mohli na internetu vyslechnout představitele vládní Indické lidové strany i v jazycích, které vůbec neovládá.
Video obsahuje krátké poselství Manoje Tiwariho, poslance vládní strany BJP před místními volbami v Dillí. V originálním záběru sedí politik za stolem v kanceláři se zelenými stěnami a pronáší monolog.
Jak upozornil server Vice, na internetu ale koluje několik takových videí v jiných jazycích včetně dialogu hindštiny a angličtiny s jiným vyzněním.
Na videu v angličtině Tiwari upozorňuje na plané sliby politických soupeřů. Ale video není autentické - při pečlivějším pohledu si lze povšimnout podivné mimiky a delších pauz a ze srovnání s originálem také vyplývá, že jde o jiný hlas.
Představitel dillíské stranické buňky Neelkant Bakshi, který má na starost sociální média, serveru Vice řekl, že cílem kampaně bylo dostat zprávu i k voličům, kteří mluví jiným jazykem.
Podle Bakshiho se video v různých podobách dostalo skoro do 6000 skupin na komunikační platformě WhatsApp v Dillí a okolí a odhadovaný dosah je 15 milionů lidí.
Riziko dezinformací
Podle vyjádření firmy, která video vyrobila, je namluvili najatí herci a speciální algoritmus pak vložil slova do úst známému politikovi.
Ten ale teoreticky vůbec nemusí znát problémy, o nichž na videu jako digitální avatar mluví v jazyce, který ve skutečnosti neovládá. Do budoucna je navíc možné zvládnout i počítačovou imitaci hlasu a vytvořit tak sdělení, které daný člověk ve skutečnosti nikdy neřekl.
Technologické firmy jako Facebook nebo Twitter v poslední době řeší, jak podobná falešná videa rozpoznávat. Otázku řeší i některé státy.
Například Kalifornie loni postavila mimo zákon šíření deepfake a zmanipulovaných videí politiků 60 dnů před volbami, aby pomohla ochránit voliče před dezinformacemi.
