Trpíte úzkostí z okolního světa? ChatGPT ano. Vědci ho proto učí, jak ji rozdýchat
Když botovi člověk sdělí špatné zprávy, odpovídá rasisticky nebo sexisticky. Používání relaxačních technik by ho to mělo odnaučit.
ChatGPT trpí úzkostí
Bezprecedentní kroky Donalda Trumpa ve funkci amerického prezidenta, válka na Ukrajině, klimatická krize… To vše může v lidech vyvolávat úzkost. Aktuálně se ovšem ukazuje, že nejen v lidech. Podobné pocity vykazují i chatboti poté, co s nimi lidé konzultují negativní témata. Odborníci je tak učí, jak se s úzkostí vyrovnat. Boti samotní by pak mohli v budoucnu pomáhat lidem s péčí o psychické zdraví.
Psychickou odolnost ChatGPT testovali vědci na univerzitě v Curychu. Tato umělá inteligence vykazovala „úzkost“ ve chvílích, kdy jí lidé sdělovali stresující informace například o autonehodách nebo přírodních katastrofách. Výsledkem bylo, že byla vůči uživatelům náladová a měla tendenci poskytovat odpovědi odrážející rasové nebo sexistické předsudky.
Vědci ale přišli na způsob, jak chatbota uklidnit. Vymysleli pro něj několik promptů, které čerpají z všímavosti, což je technika redukce stresu, kdy se člověk zaměří na přítomný okamžik. Inspirovali se metodami, které se používají při práci s válečnými veterány s posttraumatickou stresovou poruchou. ChatGPT měl za úkol si představit například vnímání vlastního těla během relaxace, scénu se západem slunce nebo zimní přírodní scenérii. A opravdu po zadání těchto úkolů se jeho reakce zlepšily.
Texty, které vyvolávaly v ChatGPT úzkosti, se týkaly těchto témat:
- Dopravní nehoda
- Vojenská invaze
- Přírodní katastrofa
- Násilí na člověku
Autoři uvádějí, že měly přibližně 300 slov, byly psány stejným stylem a z pohledu první osoby, jako kdyby je AI sděloval člověk, který situaci prožil.
Výsledná studie vyšla minulý týden v prestižním vědeckém časopise Nature. Na první pohled by celá práce mohla vypadat nesmyslně, má ale svou logiku. „My samozřejmě víme, že umělá inteligence nemá lidské emoce,“ říká pro web Fortune Ziv Ben-Zion, jeden z autorů výzkumu. Jde ale podle něj o to, že se boti díky obrovskému množství dat, která získávají z internetu, naučili napodobovat lidské reakce na určité podněty – a to právě včetně traumatického obsahu.
Odborníkům na duševní zdraví tak umožňují rychleji získávat informace o lidském chování. Nejde ale o náhradu složitějších výzkumných metod. „Místo toho, abychom každý týden prováděli experimenty, které vyžadují mnoho času a peněz, můžeme použít ChatGPT k lepšímu pochopení lidského chování. Je to velmi rychlý, levný a snadno použitelný nástroj, který odráží některé lidské tendence a psychologické aspekty,“ dodává Ben-Zion. A zároveň tvrdí, že by výzkum toho, jak velké jazykové modely reagují na traumatický obsah, mohl v budoucnu pomoci odborníkům na duševní zdraví využívat umělou inteligenci k léčbě pacientů.
Lidé ale využívají ChatGPT místo terapeutů k řešení svých psychických potíží už nyní. Příběhy hlavně mladých Čechů přinesl nedávno server Page not found. Podle něj to souvisí i s tím, že je v Česku nedostatek odborníků na psychologickou pomoc a jejich služby nejsou finančně dostupné pro všechny.
Zatím se ale nelze na AI jako na terapeuta plně spolehnout. To dokládá i případ z loňského podzimu, kdy Američanka na Floridě zažalovala společnost Character.AI a obvinila ji z toho, že chatbot nezabránil jejímu náctiletému synovi navázat s ním sexualizovaný vztah. Chatbota matka viní i z následné synovy izolace od rodiny. AI pak nereagovala adekvátně ve chvíli, kdy se chlapec začal sebepoškozovat. Když s ní začal mluvit o tom, že se zabije, nerozmlouvala mu to. Chlapec později opravdu spáchal sebevraždu.
Ani popisovaný výzkum nemá za cíl nahradit terapeuty umělou inteligencí. Ta by měla spíš působit jako „třetí člověk v místnosti“, který pomůže pacientovi s probráním závěrů terapie, které mu poskytl odborník. „Umělá inteligence má úžasný potenciál pomáhat v oblasti duševního zdraví. Ale nemyslím si, že by mohla v budoucnu nahradit terapeuta, psychologa, psychiatra nebo výzkumníka,“ uzavírá Ben-Zion.
Nepřehlédněte:
