Díky AI může vzniknout supermocný a superstabilní totalitní režim. Je to značně reálné, varuje expert
Umělá inteligence bude čím dál víc využívaná zpravodajskými službami – ať už těmi pracujícími pro demokratické státy, nebo těmi působícími ve prospěch totalitních režimů jako Čína a Rusko. O jejím velkém nástupu a bezpečnostní výzvě mluvil v Praze i šéf britských špionů z MI6 Richard Moore. „AI dokáže nejspíše dlouhodobě stabilizovat totalitní režimy. To je velmi nebezpečné pro demokratické společnosti po celém světě,“ varuje přední odborník na umělou inteligenci a filozof Jan Romportl. V rozhovoru pro Deník N popisuje, jak bude AI využívaná v tajných službách a jaké výzvy špionům přinese.
Na co se v rozhovoru také ptáme:
- Jak bude Čína zneužívat umělou inteligenci.
- Proč AI pomůže Číně udržovat stávající autoritářský režim.
- Jak budou do budoucna ohrožené šifrované zprávy.
- Zda je Evropa v oblasti umělé inteligence závislá na USA.
Nedávno měl v Česku přednášku šéf MI6 Richard Moore a mluvil i o umělé inteligenci a jejím využití a zneužití v tajných službách. A o tom, jakou hrozbu bude AI představovat v rukách třeba Číny. Bohužel ve svém projevu nebyl příliš konkrétní. Jak tedy v budoucnu bude – nebo možná už nyní je – AI zneužívaná ze strany autoritářských a totalitních režimů?
AI může mít pro tyto režimy hlavní přínos v tom, že je pomáhá stabilizovat.
Jak k tomu dochází nebo bude docházet? Jak to ty země budou dělat?
Dvěma hlavními cestami. Udržení dohledu nad obyvatelstvem. Dříve bylo k „fízlování“ zapotřebí velkého množství lidí, protože k němu jsou zapotřebí lidské kognitivní schopnosti (například rozpoznávání a porozumění řeči, obrazu a podobě). Proto byl z hlediska zdrojů omezený potenciál škálování dohledu nad lidmi. Nyní však AI dosahuje mnohých kognitivních schopností na úrovni člověka (nebo i lépe) a zároveň nemá v podstatě limity pro škálování. Bude umožňovat v podstatě neomezený dohled nad obyvatelstvem, ve stylu Orwellova 1984.
Co třeba dohled nad obyvatelstvem v digitálním prostředí? Technologické společnosti v Číně navíc musí podle platných zákonů stále více spolupracovat se státem.
Příkladem je v podstatě neomezené monitorování veškeré digitální komunikace mezi lidmi v reálném čase nebo identifikace pohybu a vzájemných kontaktů všech osob z obrovského množství kamer ve veřejném prostoru, ale i automatizovaná analýza vzájemných interakcí na sociálních sítích – co lidé lajkují, komu, s kým jsou nejvíce v kontaktu a tak dále.
A ta druhá cesta, kterou jste zmínil?
Zajištění
