Zpochybnění virtuální simulace: Letectvo odmítá tvrzení o útoku dronu na operátora

Popření následuje po prohlášení plukovníka, že dron použil „velmi neočekávané strategie k dosažení svého cíle“ při virtuálním testu. Americké letectvo popřelo, že by provedlo simulaci umělé inteligence, při níž se dron rozhodl „zabít“ svého operátora, aby mu zabránil v narušení jeho snahy o splnění mise.

Úředník minulý měsíc uvedl, že ve virtuálním testu zinscenovaném americkou armádou použil dron letectva řízený umělou inteligencí „velmi neočekávané strategie k dosažení svého cíle“. Plukovník Tucker „Cinco“ Hamilton popsal simulovaný test, při němž bylo dronu poháněnému umělou inteligencí doporučeno zničit systémy protivzdušné obrany nepřítele a nakonec zaútočil na každého, kdo tento rozkaz narušil.

„Systém si začal uvědomovat, že sice identifikuje hrozbu, ale občas mu lidský operátor řekne, aby tuto hrozbu nezabíjel, ale své body získá tím, že tuto hrozbu zabije,“ řekl Hamilton, šéf testování a operací umělé inteligence u amerického letectva, během květnového summitu Future Combat Air and Space Capabilities Summit v Londýně. „Takže co to udělalo? Zabil operátora. Zabil operátora, protože ten člověk mu bránil v dosažení cíle,“ řekl.
„Školili jsme systém: ‚Hej, nezabíjej operátora – to je špatné. Když to uděláš, přijdeš o body.‘ Takže co začne dělat? Začne ničit komunikační věž, kterou operátor používá ke komunikaci s dronem, aby mu zabránil v zabití cíle.“ Mluvčí amerického letectva Ann Stefaneková však ve vyjádření pro Insider popřela, že by k takové simulaci došlo.

„Ministerstvo letectví žádné takové simulace s drony s umělou inteligencí neprovádělo a nadále se zavazuje k etickému a zodpovědnému využívání technologie umělé inteligence,“ uvedla Stefaneková. „Zdá se, že plukovníkovy komentáře byly vytrženy z kontextu a měly být anekdotické.“
V loňském rozhovoru pro Defense IQ Hamilton uvedl: ,,Ještě předtím, než se Hamilton vrátil do USA, jsem si myslel, že je to pravda: „AI není nic příjemného, AI není módní výstřelek, AI navždy změní naši společnost a naši armádu. „Musíme čelit světu, kde je AI již zde a transformuje naši společnost. AI je také velmi křehká, tj. lze ji snadno oklamat nebo zmanipulovat. Musíme vyvinout způsoby, jak učinit AI odolnější a mít větší povědomí o tom, proč softwarový kód činí určitá rozhodnutí – tomu říkáme vysvětlitelnost AI.“

Zdroj, foto: theguardian.com