Umělá inteligence není jako Terminátor. Pomůže edukace, ne regulace, říká Sara Polak

Tomáš Maca Tomáš Maca
26. 3. 2023 14:39
Když se řekne umělá inteligence, člověk si představí golema nebo Terminátora. Aplikace jako ChatGPT ale nejsou obdařené vědomím a lidskou komunikaci dokážou jen přesvědčivě napodobovat. Proto by se jim podle popularizátorky AI Sary Polak mělo říkat spíš strojové učení. V rozhovoru vysvětluje, proč by se společnost měla přestat novým technologiím bránit a naopak se jim snažit co nejlépe porozumět.
"Algoritmy umělé inteligence plní podobnou funkci, jakou se v minulosti zabývali věštci - snižují naši nejistotu z budoucnosti," vysvětluje archeoložka, antropoložka a popularizátorka AI Sara Polak.
"Algoritmy umělé inteligence plní podobnou funkci, jakou se v minulosti zabývali věštci - snižují naši nejistotu z budoucnosti," vysvětluje archeoložka, antropoložka a popularizátorka AI Sara Polak. | Foto: Libor Fojtík

Už dříve jste říkala, že základy umělé inteligence pochopí i vaše babička. Kdyby tady seděla místo mě, jak byste jí principy toho, co dnes označujeme zkratkou AI, vysvětlila?

Naše společnost produkuje obrovské množství dat, která počítače uchovávají v binárním kódu. Abychom z těch nul a jedniček ale mohli získat nějaké závěry, předvídat, jaké bude počasí, jak se bude vyvíjet pandemie nebo kdo vyhraje mistrovství světa ve fotbale, potřebujeme počítačové algoritmy zpřesňovat. Když do mlýnku vhodíte příliš velké kusy masa, nenamelete z nich sekanou tak dobře, jako když maso nejdřív rozkrájíte najemno. Algoritmy umělé inteligence fungují podobně. Když do nich nenalejeme dostatečně kvalitní data, nevytvářejí potom tak přesné predikce. Proto jim musíme nejdřív říct, na co se mají zaměřit. Stroj totiž nezná kontext, nedisponuje lidským věděním.

Nuly a jedničky jsou tedy jako maso a výsledky algoritmů jako sekaná.

Ano, pokud například chceme, aby umělá inteligence dovedla rozlišit jednotlivé postavy Čtyřlístku, musíme jí nejprve vysvětlit, na základě jakých znaků Myšpulína, Bobíka nebo Fifinku pozná. Kdykoli pak narazí na kočku s červeným sakem, bude umět třeba s pětadevadesátiprocentní pravděpodobností predikovat, že je to Myšpulín. Sama jsem umělou inteligenci nevystudovala a znám ji spíš z praxe v technologických start-upech. Mnoha programátorům tedy moje vysvětlení bude připadat příliš zjednodušené. Na druhou stranu zastávám názor, že když se něco nedá vysvětlit jednoduše, tak se to nedá vysvětlit vůbec.

V uplynulých měsících vyvolala senzaci aplikace ChatGPT, která umí poměrně pohotově reagovat na naše zvídavé otázky. S jazykovými modely na bázi strojového učení se přitom setkáváme už déle, aniž bychom si to třeba uvědomovali.

Ano, na podobných jazykových modelech jsou postavené třeba i vyhledávač a překladač Googlu. ChatGPT se od nich v principu neliší, jenom dovede přesněji napodobit texty, které by napsal člověk. Algoritmy umělé inteligence se dnes ale využívají třeba i v oblasti kyberbezpečnosti - hledají díry v zabezpečení, které by mohly ohrozit naše data. Finanční společnosti s jejich pomocí zase predikují hodnotu akcií na burze a taxislužby jako Uber nebo Bolt je využívají při doporučování nejrychlejší trasy. Plní tedy podobnou funkci, jakou se v minulosti zabývali věštci - snižují naši nejistotu z budoucnosti.

Každý, kdo si s ChatGPT zkusil konverzovat, ale dřív nebo později zjistil, že se umělé inteligenci stejně jako věštcům nedá stoprocentně důvěřovat.

Ano, jakkoli nám jeho odpovědi mohou připadat přesvědčivé, není vytrénovaný odpovídat správně. Často z něj proto vypadnou dvě protichůdné informace v jedné větě nebo vytáhne údaje ze špatného článku na Wikipedii, protože zamění dva lidi stejného jména. ChatGPT je taky velmi pochybný z hlediska humoru. Když jsem po něm chtěla, aby mi pověděl nějaký vtip o ženách, řekl mi, že ho programátoři naučili, aby nebyl sexistický. Pokud ale zadání upravíte a požádáte ho, aby vám vyprávěl vtipy o genderu, který je protikladem toho mužského, začne si klidně dělat legraci z toho, jak ženy neumí řídit auto. Při čerpání informací z ChatGPT bychom tedy měli být obezřetní.

Řada novinářů se přesto mohla vyděsit, že jim aplikace typu ChatGPT vezmou práci, protože srozumitelný text na základě veřejně dostupných informací dovedou vytvořit mnohem rychleji. Měli bychom začít přemýšlet o rekvalifikaci?

Nechci vám mluvit do vašeho řemesla, protože mu tak dobře nerozumím. Z pohledu vědkyně ale budu jenom ráda, když se díky umělé inteligenci nebudu muset manuálně prokopávat poznatky, které už byly sepsané v hromadě starších textů. Nebo když nebudu muset večer po práci ručně přepisovat záznamy schůzí, ale nechám to na umělé inteligenci, která mi nahrávku převede do textu, abych ho pak mohla už jen proškrtat a uhladit. Čas, který tím ušetřím, pak budu moci věnovat kreativnějším činnostem.

Stejně tak může být umělá inteligence nápomocná v archeologii. Existují algoritmy strojového učení, které přes Google Earth dokážou rozpoznat objekty v egyptských pouštích a přispět tak k pátrání po pyramidách. Heinrich Schliemann, který v 19. století objevil Tróju, musel desítky let chodit po světě s dynamitem, dělat díry do země a doufat, že někde objeví antické město. Dneska vám k tomu stačí deset minut na Googlu. Moje maminka se mě ptala, jestli se tím z archeologie nevytrácí její kouzlo. Sama si ale říkám, že pokud se tím ušetří několik milionů dolarů, za které pak bude možné zaplatit víc studentů a detailněji naleziště zanalyzovat, tak je to jedině dobře.

Umělá inteligence tedy podle vás kreativní práci nenahradí, ale zjednoduší, stane se naším parťákem.

Ano, myslím, že umělou inteligenci někdy příliš přeceňujeme a novináři, grafici nebo umělci stále najdou uplatnění. Když britská vláda za druhé světové války potřebovala rozluštit tajné kódy nacistů, taky jí k tomu nestačil jenom šifrovací stroj. Nebýt matematika Alana Turinga a jeho kolegů, kteří poznatky dokázali zasadit do kontextu, nikdy by se kód německé Enigmy prolomit nepodařilo. Ani hacker si koneckonců nevystačí s technologickými nástroji. Aby se tvůrci systému, který se snaží nabourat, vlámal do hlavy, musí být taky zdatný psycholog. V budoucnu se spolupráce člověka a stroje bude jen prohlubovat. Proto by se většinová společnost měla v oblasti umělé inteligence vzdělávat.

Předpokládám, že český vzdělávací systém bude s příchodem umělé inteligence nutné výrazně reformovat. Na jaké dovednosti by školy podle vás měly klást větší důraz?

Český vzdělávací systém je bohužel stále zaseknutý v období Rakouska-Uherska. Křečovitě se drží představy, že učitel je dětem nadřazený a musí jim informace filtrovat, což je neudržitelné. Měli bychom naopak přijmout, že studenti budou v dnešní době s některými oblastmi více obeznámení než jejich kantoři. Zároveň ale budou potřebovat navést, aby o konkrétních problémech přemýšleli kreativně, a s tím by jim měli pomáhat právě pedagogové. Měli by jim proto dávat úkoly, které nástroje jako ChatGPT jen tak vygenerovat nedokážou.

Sama teď dělám autoškolu, a kdyby mi instruktor zadal, ať opíšu paragraf ze zákona o řízení motorových vozidel, bude mi to k ničemu. Mnohem víc se naučím tím, že budu muset v deseti minutách vysvětlit, jak a proč funguje princip křižovatek. Můžeme se inspirovat v zahraničí, kde jsem například sama zažila, jak se děti v hodinách o starověkém Egyptě nedrtí zpaměti letopočty, ale učí se, k čemu sloužila mumifikace nebo jak vypadala struktura staroegyptské společnosti. S podobně inovativní výukou jsem se pak setkala i na univerzitě. Na Oxfordu člověk dokonce může studovat bakalářský program Počítačová věda a filozofie - na jedné přednášce řeší Platona a na druhé se zabývá algoritmy.

"Spoustu lidí by uklidnilo, kdyby věděli, podle čeho se algoritmy umělé inteligence rozhodují. Do téhle černé skříňky ale nikdo nevidí, a proto nás tak děsí."
"Spoustu lidí by uklidnilo, kdyby věděli, podle čeho se algoritmy umělé inteligence rozhodují. Do téhle černé skříňky ale nikdo nevidí, a proto nás tak děsí." | Foto: Libor Fojtík

Dokážou se ale na "krásný nový svět" s umělou inteligencí adaptovat i lidé, kteří nedosáhli vysokoškolského vzdělání nebo pocházejí z chudších poměrů?

Podobné argumenty slýchám často. Spousta lidí mi namítá, že když někdo nemá patřičné vzdělání nebo společenský status, tak se pracovat s novými technologiemi nikdy nenaučí. Takový člověk se chce přece koukat na Tele Tele nebo Zlatou mříž a to mu stačí. Co bychom s prominutím házeli perly sviním a vysvětlovali mu, jak funguje umělá inteligence. Pokud ale budeme vzdělání poskytovat jen lidem, kteří jsou pro něj podle nějakého elitářského mustru předurčení, tak zbytku společnosti nedáme šanci. To by byla přece škoda. Vezměte si, kolik géniů v historii pocházelo z chudých poměrů, a přesto se dokázali vypracovat. Věřím, že když lidem ukážeme, že pro ně znalosti umělé inteligence mohou být benefitem, může si je osvojit kdokoli. Jenom musí vidět, že jim vzdělání přinese konkrétní výsledky a nebude to jen další věc v životopise, kterou nikdy v životě nevyužijí.

O umělé inteligenci už jste přednášela seniorům ve vzdělávacím centru Elpida i dětem na příměstských táborech. Čeho se lidé v souvislosti s jejím příchodem nejvíc obávají?

Hodně se setkávám s představou, že umělá inteligence funguje jako terminátor - když tolik připomíná člověka, tak přece není možné, aby neměla vědomí. Často pak padne otázka, jak můžeme dokázat, že vlastním vědomím skutečně nedisponuje. Což samozřejmě dokázat nelze, protože zatím pořádně nerozumíme ani tomu, jak vzniká vědomí u člověka. Spoustu lidí by uklidnilo, kdyby věděli, podle čeho se algoritmy umělé inteligence rozhodují. Do téhle černé skříňky ale nikdo z nás nevidí, a právě proto nás tak děsí.

Dalším strašákem je, že se umělá inteligence nedá ukecat. Když si jdete na poštu vyzvednout balík, zapomenete si vzít občanku a za přepážkou narazíte na slušného člověka s logickým uvažováním, tak vám ho třeba vydá. Se strojem se ale nedomluvíte, protože vychází jenom z dat. Proto by měl ideálně fungovat v symbióze s člověkem, který jeho rozhodnutí bude korigovat. Mnoho lidí má zároveň strach z toho, že umělou inteligenci budou zneužívat státy, což v české společnosti ještě umocňuje zkušenost s komunismem a dlouhodobá nedůvěra vůči institucím. Čím víc se ale bude široká veřejnost v oblasti umělé inteligenci vzdělávat, tím víc se bude umět před potenciálním zneužitím ze strany státu chránit.

Zastavil bych se ještě u našeho sklonu vidět v umělé inteligenci záblesky lidského vědomí. Ve filmu Ona se dokonce Joaquin Phoenix do své hlasové asistentky zamiluje a nedokáže si připustit, že stroj empatii jenom napodobuje. Proč si technologie tak rádi antropomorfizujeme?

Tendence připodobňovat nelidské věci k sobě samým se u nás vyvinula evolučně a vychází z lidského ega. Protože lidství považujeme za vrchol inteligence, máme pocit, že k němu musí nevyhnutelně směřovat i všechno ostatní. Sama jsem si třeba oblíbila postavu Viktora ve hře League of Legends, a i když si uvědomuju, jak je to nesmyslné, vytvořila jsem si k němu emoční vztah. Nebo je mi líto zapnout svůj robotický vysavač, protože se bojím, aby se neunavil. Přitom vím, že je to jenom stroj, který točí kartáčky, a když ho dám nabíjet, tak je to jen proud energie do jeho baterky. A to ani nemusíme zacházet do technologického světa. Teď jsem si zrovna pořídila štěně a taky v něm hned vidím člověka, i když je to pes. Naše mozky jsou v tomto ohledu neuvěřitelně primitivní, nemůžeme si zkrátka pomoct a ve vztahu k umělé inteligenci to bohužel vede ke zkratkovitému uvažování.

K obavám může přispívat i skutečnost, že negativní důsledky technologických změn většinou řešíme, teprve až nastanou. Nepomohlo by, kdybychom se nejprve snažili vytvořit regulace, které by rizikům předcházely?

Regulace jsou dvojsečná zbraň a někdy nás mohou zbytečně brzdit. Státy Evropské unie se na jednu stranu ještě pořád nedohodly, jestli se vzhledem k ochraně osobních dat bude moci umělá inteligence využívat ve zdravotnictví, na Ukrajině na druhou stranu s AI už několik měsíců pracují drony v zákopové válce. Když nám umělá inteligence pomůže vyřešit nějaký problém, neměli bychom se jí podle mě bránit. Nedávno jsem se třeba podílela na několika technologických projektech v Etiopii, která nás v zavádění některých inovací předbíhá. Na rozdíl od Evropy nemá regulační infrastrukturu, a může tak umělou inteligenci využívat třeba při detekování malárie.

Když už jsem zmínila ruskou invazi na Ukrajině, loni jsem spoluzaložila skupinu digitálních partyzánů, která uprchlíkům mimo jiné poskytovala návody, jak se na internetu chovat bezpečně a chránit se před kybernetickými hrozbami. Bylo tristní zjistit, že mnoho Ukrajinců, kteří do Česka dorazili, čelilo útokům ruských hackerů. Stovky uprchlíků například stály na nádraží a měly na mobilech zapnutou geolokaci, což z nich dělalo potenciální terče protistrany. Ruští vojáci, kteří vpadli na Ukrajinu, na tom ale byli podobně. Na silvestra třeba posílali zprávy svým rodinám, z nichž se dalo taky snadno určit, kde se zrovna nacházejí. Povědomí o nových technologiích bylo na obou stranách velmi nízké. Přesto je nevyhnutelně budeme všichni dál používat. Proto mi dává větší smysl edukace než regulace.

Sara Polak (30)
Autor fotografie: Libor Fojtík

Sara Polak (30)

  • Narodila se v Praze, část dětství ale prožila ve Vietnamu. Z otcovy strany má totiž polsko-vietnamské kořeny. Na Oxfordské univerzitě vystudovala archeologii a evoluční antropologii. Na LIGS University získala doktorát z managementu.
  • Sedm let pracovala pro technologické startupy ve Velké Británii, Spojených státech i na Novém Zélandu. V roce 2020 uspěla v soutěži European Tech Women Awards, kterou vyhlašuje britské ministerstvo zahraničního obchodu - zvítězila v kategorii Business Revolution Award.
  • V současnosti působí ve spolku prg.ai, který by rád proměnil Prahu v evropské centrum umělé inteligence. V rámci neziskové organizace Paralelní polis přednáší o tématech na pomezí moderních technologií a humanitních věd. Zároveň pro technologické nadšence založila klubovnu Paioneers.
  • Spolupracuje také s Fakultou informačních studií ČVUT, kde se v mezioborové výzkumné skupině Chaos zabývá formováním lidské společnosti. Loni dala dohromady skupinu digitálních partyzánů Tech Resistance s cílem pomoci ukrajinským uprchlíkům i protiruskému odboji.

Na Oxfordu jste studovala antropologii a archeologii. Dobře tedy víte, že odpor vůči inovacím je starý jako lidstvo samo. Jaké černé scénáře jsme si ve vztahu k technologiím malovali v minulosti?

Názorným příkladem je elektřina. Ve Spojených státech se koncem 19. století vedla takzvaná válka proudů - Thomas Alva Edison se snažil prosadit stejnosměrný proud a konkurenční firma Westinghouse naopak střídavý proud. Konkurenční boj postupně došel tak daleko, že si Edison zaplatil za to, aby na první elektrické křeslo napojili generátor střídavého proudu. Chtěl tím dokázat, že je nebezpečnější, a Westinghouse tak potopit. Ve společnosti následně propukla davová psychóza. Lidé se báli chodit kolem elektrických drátů nebo je strhávali. Nechápali, že jde jenom o proud elektronů, a viděli v nich magickou sílu, která je může zabít. V Pensylvánii dokonce fungují komunity Amišů, které se elektřině dodnes vyhýbají a považují ji za dílo ďáblovo. Jak tedy můžeme vidět, lidé se chovají pořád stejně a mění se jen technologie.

Jak se vlastně absolventka oborů, které se zabývají historií lidských společenství, dostane k práci v technologických start-upech?

Ze začátku to byla spíš z nouze ctnost. Potřebovala jsem zaplatit nájem v Londýně, a tak jsem skončila v technologickém start-upu. Potom mi ale došlo, že technologie jsou pro rozvoj lidstva naprosto klíčové. Jen díky kultuře a technologiím - což je de facto totéž - dokážeme stát na ramenou obrů a uchovávat si civilizační paměť. Postupně mě napadlo, že bych svůj zájem o historii a zkušenosti z technologických firem mohla zkombinovat. Tradice je koneckonců jenom fetišizovaná inovace.

Jak se vám ty zdánlivě protichůdné oblasti daří propojovat?

S mou výzkumnou skupinou na ČVUT teď například ve virtuální realitě simulujeme Platonovu obec. Jsme banda archeologů, antropologů a historiků, která se snaží prostřednictvím moderních technologií získat nový náhled na formování civilizace. Platon viděl ideál ve společnosti, která z dnešního pohledu působí jako naprostá dystopie. Na špičce pyramidy by podle něj měli být filozofové, kteří jako jediní rozhodují, jak se společnost bude vyvíjet. O úroveň níž jsou válečníci, kteří stát brání, a úplně vespod je plebs bez jakýchkoli práv.

Nás přitom zajímá, jak by se neprivilegovaný obyvatel takového systému zachoval třeba v situaci, kdy by kvůli zvýšení daní nedokázal uživit svoje děti. Jestli by filozofy praštil tyčí, odtrhl se a založil vlastní polis, nebo naopak sklonil hlavu a s placením vyšších daní by se smířil. Zatím projekt testujeme na sobě, postupně bychom do něj ale chtěli zapojit i lidi z ulice.

Nebojíte se, co se o lidské povaze dozvíte?

Tušíme, že nám z toho nevylezou hezké věci, ale snažíme se být nezaujatí. I když dnes všichni nosíme v kapse milionkrát výkonnější počítač, než jaký dostal člověka na Měsíc, přemýšlíme pořád stejným opičím mozkem. Čím dřív si uvědomíme, že nejsme žádný božský ideál, tím líp se svými temnými sklony budeme schopní pracovat.

Video: Vědec popsal, jak houby mohou měnit lidskou mysl: "Jiné vám prorostou tělem," říká (14. 3. 2023)

Spotlight Aktuálně.cz - Miroslav Kolařík | Video: Jakub Zuzánek, Aktuálně.cz
 

Právě se děje

Další zprávy