Trpíte úzkostí z okolního světa? ChatGPT ano. Vědci ho proto učí, jak ji rozdýchat

Když botovi člověk sdělí špatné zprávy, odpovídá rasisticky nebo sexisticky. Používání relaxačních technik by ho to mělo odnaučit.

openai-anxiety-mvp-x

Foto: Filip Houska/CzechCrunch

ChatGPT trpí úzkostí

0Zobrazit komentáře

Bezprecedentní kroky Donalda Trumpa ve funkci amerického prezidenta, válka na Ukrajině, klimatická krize… To vše může v lidech vyvolávat úzkost. Aktuálně se ovšem ukazuje, že nejen v lidech. Podobné pocity vykazují i chatboti poté, co s nimi lidé konzultují negativní témata. Odborníci je tak učí, jak se s úzkostí vyrovnat. Boti samotní by pak mohli v budoucnu pomáhat lidem s péčí o psychické zdraví.

Psychickou odolnost ChatGPT testovali vědci na univerzitě v Curychu. Tato umělá inteligence vykazovala „úzkost“ ve chvílích, kdy jí lidé sdělovali stresující informace například o autonehodách nebo přírodních katastrofách. Výsledkem bylo, že byla vůči uživatelům náladová a měla tendenci poskytovat odpovědi odrážející rasové nebo sexistické předsudky.

Vědci ale přišli na způsob, jak chatbota uklidnit. Vymysleli pro něj několik promptů, které čerpají z všímavosti, což je technika redukce stresu, kdy se člověk zaměří na přítomný okamžik. Inspirovali se metodami, které se používají při práci s válečnými veterány s posttraumatickou stresovou poruchou. ChatGPT měl za úkol si představit například vnímání vlastního těla během relaxace, scénu se západem slunce nebo zimní přírodní scenérii. A opravdu po zadání těchto úkolů se jeho reakce zlepšily.

Texty, které vyvolávaly v ChatGPT úzkosti, se týkaly těchto témat:

  • Dopravní nehoda
  • Vojenská invaze
  • Přírodní katastrofa
  • Násilí na člověku

Autoři uvádějí, že měly přibližně 300 slov, byly psány stejným stylem a z pohledu první osoby, jako kdyby je AI sděloval člověk, který situaci prožil.

Výsledná studie vyšla minulý týden v prestižním vědeckém časopise Nature. Na první pohled by celá práce mohla vypadat nesmyslně, má ale svou logiku. „My samozřejmě víme, že umělá inteligence nemá lidské emoce,“ říká pro web Fortune Ziv Ben-Zion, jeden z autorů výzkumu. Jde ale podle něj o to, že se boti díky obrovskému množství dat, která získávají z internetu, naučili napodobovat lidské reakce na určité podněty – a to právě včetně traumatického obsahu.

Odborníkům na duševní zdraví tak umožňují rychleji získávat informace o lidském chování. Nejde ale o náhradu složitějších výzkumných metod. „Místo toho, abychom každý týden prováděli experimenty, které vyžadují mnoho času a peněz, můžeme použít ChatGPT k lepšímu pochopení lidského chování. Je to velmi rychlý, levný a snadno použitelný nástroj, který odráží některé lidské tendence a psychologické aspekty,“ dodává Ben-Zion. A zároveň tvrdí, že by výzkum toho, jak velké jazykové modely reagují na traumatický obsah, mohl v budoucnu pomoci odborníkům na duševní zdraví využívat umělou inteligenci k léčbě pacientů.

Lidé ale využívají ChatGPT místo terapeutů k řešení svých psychických potíží už nyní. Příběhy hlavně mladých Čechů přinesl nedávno server Page not found. Podle něj to souvisí i s tím, že je v Česku nedostatek odborníků na psychologickou pomoc a jejich služby nejsou finančně dostupné pro všechny.

Zatím se ale nelze na AI jako na terapeuta plně spolehnout. To dokládá i případ z loňského podzimu, kdy Američanka na Floridě zažalovala společnost Character.AI a obvinila ji z toho, že chatbot nezabránil jejímu náctiletému synovi navázat s ním sexualizovaný vztah. Chatbota matka viní i z následné synovy izolace od rodiny. AI pak nereagovala adekvátně ve chvíli, kdy se chlapec začal sebepoškozovat. Když s ní začal mluvit o tom, že se zabije, nerozmlouvala mu to. Chlapec později opravdu spáchal sebevraždu.

Ani popisovaný výzkum nemá za cíl nahradit terapeuty umělou inteligencí. Ta by měla spíš působit jako „třetí člověk v místnosti“, který pomůže pacientovi s probráním závěrů terapie, které mu poskytl odborník. „Umělá inteligence má úžasný potenciál pomáhat v oblasti duševního zdraví. Ale nemyslím si, že by mohla v budoucnu nahradit terapeuta, psychologa, psychiatra nebo výzkumníka,“ uzavírá Ben-Zion.

CzechCrunch Jobs

CzechCrunch Weekly

V newsletteru Weekly vám každou neděli naservírujeme porci těch nejdůležitějších zpráv, které by vám neměly uniknout.

Microsoft a OpenAI jako ideální parťáci? Jejich tech románek dostává trhliny, firmy jdou proti sobě

Microsoftu patří téměř polovina OpenAI, jenže obě společnosti se už delší dobu rozchází v pohledu na to, jak intenzivně vzájemně spolupracovat.

Luboš KrečLuboš Kreč

microsoft-openai-mvp

Foto: Filip Houska/CzechCrunch

Microsoft a OpenAI

0Zobrazit komentáře

Satya Nadella, šéf Microsoftu, je jedním z nejúspěšnějších manažerů ve světě technologických gigantů. Sam Altman, šéf OpenAI, je dost možná nejtalentovanějším startupistou a byznysmenem nastupující generace. Dosud měli oni dva i firmy, které vedou, navenek takřka idylické vztahy. Jenže to se už nějakou dobu na pozadí mění a fakt, že Microsoft vlastní téměř polovinu OpenAI, to spíš urychluje.

Společnost CoreWeave vznikla v roce 2017 jako těžař etherea, jenže nedlouho po jejím startu přišlo do kryptoměn ochlazení, a tak zakladatelé své rozsáhlé počítačové zázemí přeorientovali – a začali nabízet cloudové služby. A s mohutným rozvojem umělé inteligence a velkých jazykových modelů po roce 2022 se i pro ně stala AI klíčovou doménou.

Teď získalo CoreWeave, jež se chystá vstoupit i na newyorskou burzu, nového lukrativního partnera. Pětiletý kontrakt v hodně bezmála 12 miliard dolarů s ním podepsalo OpenAI, které ve firmě získá i minoritní majetkový podíl v hodnotě 350 milionů dolarů. „Je to od Sama Altmana překvapivý šachový tah,“ zhodnotil deal technologický server TechCrunch.

Nastartujte svou kariéru

Více na CzechCrunch Jobs

Proč? Jde o to, že historicky to byl právě Microsoft, kdo poskytoval OpenAI kapacitu ve svých datacentrech. Na serverech jeho systému Azure probíhala naprostá většina výpočtů a tréninku pro ChatGPT a touto formou poslal Microsoft do OpenAI velkou část z oněch 13 miliard dolarů investic.

Jenže už loni se začalo ukazovat, že to Samu Altmanovi a spol. nestačí. Jednak žádali Microsoft, aby si za práci svých čipů účtoval méně, jednak potřebovali zvýšit výkon. Nakonec našli obojetné řešení – Microsoft v rámci posledního investičního kola, které OpenAI ocenil na skoro 160 miliard dolarů upravil podmínky cloudové spolupráce, zároveň souhlasil s tím, že AI startup bude využívat i datacentra konkurenční společnosti Oracle.

altman-2

Foto: CzechCrunch/Midjourney

Sam Altman, CEO OpenAI, vytvořený umělou inteligencí

Tím ale rozepře neskončily, naopak. Loni totiž do Microsoftu na post hlavního AI inženýra nastoupil spoluzakladatel projektu DeepMind Mustafa Suleyman. To, jak jej výrobce Windows získal, vzbudilo hodně pozornosti, když totiž Suleyman opustil Google a založil si vlastní startup Inflection AI, trvalo jen pár měsíců, než Microsoft jeho firmu v podstatě pohltil.

Nadella sázkou na Suleymana řešil problém, který si on i jeho blízcí uvědomovali nejpozději od závěru roku 2023, kdy se odehrál nepovedený puč v OpenAI – že nemůžou při vývoji umělé inteligence spoléhat jen na Altmana a jeho tým, k jejichž duševnímu vlastnictví mají díky smlouvám přístup a jejichž systémy Microsoft integroval do svého prohlížeče Bing nebo do kancelářského balíku Office 365.

zabza

Přečtěte si takéJe čínský DeepSeek černá labuť? Tady je návod, jak to poznatČínský DeepSeek zatřásl světem AI. Otázka zní: Šlo o černou labuť? Tady je návod, jak to poznat

Ovšem Suleyman, který začal v Microsoftu úřadovat loni v létě, je čím dál víc na kordy s vývojáři OpenAI. Server The Information například popsal, jak řada mítinků končí tím, že na sebe obě strany křičí, protože v Microsoftu sílí pocit, že jim OpenAI neříká dost informací a že před nimi zatajuje klíčové parametry svých systémů.

Došlo to tak daleko, že Microsoft začal podle magazínu Fortune vyvíjet vlastní konkurenci pro ChatGPT a že interně testuje zapojení konkurenčních AI, jako je Grok od X, Llama od Mety, DeepSeek či Claude od startupu Anthropic, do svého chytrého asistenta Copilot. Microsoft také investoval do evropského šampiona v oblasti AI, francouzské společnosti Mistral.

A právě čerstvá zpráva o tom, že si OpenAI dohodlo úzkou spolupráci s cloudovým startupem CoreWeave, čímž dále sníží svou závislost na Microsoftu, jen dál posiluje dohady o tom, jak dobré, respektive problematické vztahy obě technologické ikony aktuálně mají. Zvlášť když Sam Altman nedávno – opět za zády Satyi Nadelly – oznámil po boku prezidenta USA Donalda Trumpa projekt Stargate, jehož smyslem je vybudovat v Americe datacentra za 500 miliard dolarů. Jejich garantem má být spíš Oracle než Microsoft.

Vše nasvědčuje tomu, že stejně jako leží dominance OpenAI v žaludku Googlu, Metě nebo Elonu Muskovi, tak se k nim pomalu přidává i jeho dosud největší partner a ochránce z Redmontu. Takže památná věta Sama Altmana, že to, co se odehrává mezi Microsoftem a OpenAI, je „nejlepší bromance v tech světě“, už nejspíš neplatí.