Umělá inteligence bude rozumět emocím, lidskou podobu bychom měli tabuizovat, zamýšlí se kybernetik

6. listopad 2023

Kybernetik a filosof Jan Romportl si už svět bez umělé inteligence nedovede představit. „AI potřebujeme, abychom udrželi osmimiliardovou civilizaci důstojně pokupě,“ říká v rozhovoru s Lucií Výbornou. Zároveň ale upozorňuje, že AI je nutné tvořit tak, aby její hodnoty byly sladěné s hodnotami lidí. „Politici o AI moc erudovaně nemluví. Pochopte základy, jak AI funguje, pak požadujte, aby politici jasně deklarovali svůj názor,“ doporučuje.

Lidé, kteří pracují s umělou inteligencí, ji učí, aby byla hodná? A mají nějaký vliv?

Čtěte také

Spousta lidí, která v oblasti umělé inteligence je, popírá, že by tento problém existoval. V komunitách dochází k obrovské polarizaci. V komunitě umělé inteligence bohužel dochází k obrovským ideologickým bojům.

Je nějaká skupina lidí, kteří říkají: „Pozor, je to potencionálně nebezpečné, kam se řítíme, měli bychom AI udělat bezpečnou.“ – To mi přijde jako legitimní požadavek. A proti stojí ještě větší skupina lidí z oblasti AI, která říká: „Ne, jste všichni alarmisti a blázni a děláte si na tom marketing. Někdo se snaží dělat větší, silnější vodítka, to je docela dobré pro umělou inteligenci, ale problém je, že nevíme, jak ji správně vytvořit, aby její hodnoty byly naprosto a stoprocentně sladěné s hodnotami nás, lidí. My umíme jen vodítka a příkazy.

Musíme se zabývat tím, jak umělou inteligenci udělat tak, aby její hodnoty nebyly v rozporu s hodnotami lidstva. Jakým způsobem se takováto věc programuje, když jsem od některých odborníků na AI slyšela, že už do toho nemůžu moc zasáhnout, protože ta věc si to dělá sama?

To je právě ten problém – my to neumíme tomu systému nějak vtělit. Jako příklad bych mohl uvést GPT, to je obrovská umělá neuronová síť, která se učila tak, že když ji předhodíte nějakou sekvenci slov, třeba Ema mele, tak se ji zeptáte, co přijde dál. A ona řekne maso, nebo nesmysly… A ta neuronová síť se to naučila na internetu, nikdo ji nevysvětloval, jak to ve světě chodí, co by měla a neměla umět. Tyto věci tam vyvstaly samy od sebe.

Je reálné z vnějšku pozastavit vývoj umělé inteligence?

My nesmíme pozastavit vývoj umělé inteligence jako vědecky výzkumný pokrok, musíme pozastavit trénování daleko větších jazykových a dalších modelů. Teď mají bilion parametrů, a my se musíme zaměřit v AI výzkumu na to, že při stávajících velikostech, vezměme třeba GPT-4, možná GPT-5, až vyjde, tak to nebudeme dál rozvíjet, ale uděláme tam brzdy a volant pro takhle vzniklé zařízení. A jestli to jde, nebo nejde? To nevíme.

Věřím, že v oblasti umělé inteligence může být něco, na čem se domluví vláda s opozicí.
Jan Romportl

Chcete mi říct, že jedeme brutálně vytuněným autem se silným motorem, které nemá brzdy?

Přesně, takhle dnes vzniká vývoj AI. Děláme metaforickým příměrem auta, kterým montujeme větší a větší motor – to jsou ty větší a větší jazykové modely – ale do těch aut nedáváme volant a brzdy. A když někdo poznamená: „Neměli byste tam dávat volant a brzdy?“, v automobilismu by nikdo neřekl, že to je nějaký zpátečník, který zastavuje rozvoj automobilového průmyslu. Ale v AI to řeknou. Když přijdou lidi a řeknou„Zkuste zpomalit další a větší modely a větší výpočetní zdroje, tak spousta lidí řekne: Vy jste zpátečník, zastavujete pokrok AI.

Čtěte také

Víte, co je pro mě na tom to nejsmutnější? Že to poslouchám, ale nemůžu udělat vůbec nic…

Myslím si, že už teď děláte relativně hodně v tom, že můžete šířit zprávu: AI potřebujeme, ale nepotřebujeme v tuto chvíli GPT-5 ani GPT-6, dokud pro ně nevymyslíme volant a brzdy.

Měl by mít ten stroj lidskou podobu?

Neměl. Jedna z podstatných věcí, kterou bychom měli zabezpečit pro budoucí soužití s AI, je úplně zakázat antropomorfizaci AI. To znamená, aby AI vypadala jako člověk. Mýlka je, že si lidé myslí, že AI nebude schopná rozumět emocím, nebo emoce navenek dávat najevo. Bude stejně jako člověk rozumět lidským emocím. A to, aby je sama demonstrovala, že tady bude umělý robot, který bude předstírat, že jste vy, bude technicky možné, ale měli bychom to tabuizovat.

Kde by měl skončit vývoj umělé inteligence? A co se stane, až bude lepší než člověk? Poslechněte si celý rozhovor.   

autoři: Lucie Výborná , prh

Související

Více z pořadu

E-shop Českého rozhlasu

Víte, kde spočívá náš společný ukrytý poklad? Blíž, než si myslíte!

Jan Rosák, moderátor

slovo_nad_zlato.jpg

Slovo nad zlato

Koupit

Víte, jaký vztah mají politici a policisté? Kde se vzalo slovo Vánoce? Za jaké slovo vděčí Turci husitům? Že se mladým paním původně zapalovalo něco úplně jiného než lýtka? Že segedínský guláš nemá se Segedínem nic společného a že známe na den přesně vznik slova dálnice? Takových objevů je plná knížka Slovo nad zlato. Tvoří ji výběr z rozhovorů moderátora Jana Rosáka s dřívějším ředitelem Ústavu pro jazyk český docentem Karlem Olivou, které vysílal Český rozhlas Dvojka.