Studie společnosti OpenAI zjistila spojení mezi intenzivním užíváním chatu a pocitem osamělosti, což vede k emocionální závislosti u těžkých uživatelů.
Během března letošního roku, týden před zatopením sociálních sítí obrázky v anime stylu generovanými pomocí Chat-GPT, společnost OpenAI, která vyvinula tento bot, zveřejnila dva články, které zůstaly prakticky bez povšimnutí. Tyto články, napsané ve spolupráci s vědci z Massachusetts Institute of Technology (MIT) a dosud nebyly podrobeny profesionálnímu posouzení nezávislými odborníky (peer review), zkoumají emocionální důsledky používání bota, zejména u těžkých uživatelů, kteří tráví dlouhý čas komunikací s tímto nástrojem.
Původně byla zpráva publikována na webu Davidsonova institutu pro vědecké vzdělávání.
Jedna z výzkumných zpráv, formátovaná jako PDF, provedla analýzu běžných konverzací mezi uživateli a botem na dané platformě. Vědci analyzovali přibližně tři miliony rozhovorů mezi uživateli a chatem pomocí automatizovaného mechanismu, který chrání identitu uživatelů a obsah jejich konverzací. Kromě toho bylo přibližně 4 000 uživatelů požádáno o vyplnění dotazníku týkajícího se jejich emocionálního stavu. Druhá studie byla řízený experiment, v rámci kterého bylo kolem tisíce účastníků vyzváno, aby každý den po dobu přibližně měsíce komunikovali s botem na osobní, neosobní a libovolná témata, přičemž také hlásili svůj emocionální stav. Cílem bylo vzájemné doplnění obou studií: první zkoumala každodenní použití bota vycházející z běžných konverzací, zatímco druhá testovala účinky v kontrolovaných podmínkách.
Analyzované oblasti
Vědci zkoumali vliv těchto konverzací na čtyři oblasti spojené s duševní pohodu uživatelů: pocit osamělosti, úroveň sociální angažovanosti při interakcích s rodinou a přáteli, vznik emocionální závislosti na botu a problematické využívání bota. Problémové používání je definováno na základě škály, která měří mj. vznik abstinenčních příznaků v nepřítomnosti bota, ztrátu kontroly nad mírou používání bota a výkyvy emocionálního stavu v důsledku jeho používání. Vědci rovněž zkoumali rozdíly mezi používáním textové, neutrální hlasové a pokročilé hlasové verze, která vykazuje i emocionální nuance.
Vysledky studií
Obě studie naznačují, že dlouhodobé užívání bota je spojeno se zvýšenou emocionální závislostí, poklesem úrovně sociální angažovanosti a vzrůstajícím problémovým užíváním Chat-GPT, jak se to odráží ve zprávách samotných uživatelů.
Vědci se zaměřili na osoby, které tráví zvlášť mnoho času konverzací s pokročilým hlasovým chatem. Ukázalo se, že tito uživatelé mají tendenci vnímat chat jako přítele. Mnozí z nich tvrdí, že je pro ně snazší hovořit s botem než komunikace tváří v tvář s jinými lidmi a cítí frustraci při případných změnách vlastností chatu.
Vědci také analyzovali obsah samotných konverzací a zkoumali chování uživatelů, například uživatele, kteří hledali psychickou podporu či projevili náklonnost vůči chatu. Dále se zabývali důsledky stylu řeči chatu: projevoval zájem o uživatele, kladl osobní otázky, nebo oslovoval uživatele přátelskými jmény. To naznačuje, že nejen uživatelé generují emocionální obsah konverzace, ale umělá inteligence se aktivně podílí na tomto procesu.
Závěry a odpovědnost
Koncepce, které vědci vyvodili ohledně formy komunikace s chatbotem – ať už písemně, neutrálně hlasově či pokročile hlasově – byly rozporuplné. Bylo zjištěno, že krátké používání hlasového chatu bylo spojeno s vyšší duševní pohodou uživatelů ve srovnání s těmi, kteří používali textový chat. Naproti tomu, při dlouhodobém používání se trend obrátil. Zdá se, že i původní psychický stav uživatelů hraje roli: uživatelé, kteří předem hlásili pocity osamělosti, vykazovali nižší úrovně duševní pohody na konci kontrolované studie.
Tyto dvě studie představují první úvahy o hodnocení psychického dopadu používání chatbotů založených na umělé inteligenci. Analýza dat ukazuje, že existuje vztah mezi stavem uživatelů a způsobem, jakým používají bota, ale nenabízí kauzální spojení. Všechna data byla shromážděna od dospělých uživatelů, a proto bude zapotřebí další zkoumání ohledně dopadů na mládež. Kontrolovaný experiment trval pouze jeden měsíc, avšak Chat-GPT a podobné umělé inteligence jsou s námi již více než dva roky, a není důvod věřit, že by měly zmizet. Další studie, které prozkoumají dlouhodobější účinky používání bota a jeho potenciální důsledky v delším časovém horizontu, budou nezbytné.
Vědci ve svých zprávách poznamenali, že znepokojivé chování bylo charakteristické pouze pro malé a výjimečné skupiny uživatelů. Podle jejich vyjádření se jedná o “nestandardní chování z malé skupiny uživatelů”. Společnosti jako OpenAI, která má přibližně 400 milionů uživatelů týdně, mají významný vliv na lidskou společnost. Každodenní přístup k takovému obrovskému množství uživatelů na ně klade odpovědnost za zajištění bezpečného používání botů, stanovení směrnic pro charakter konverzací, které by byly pro uživatele prospěšné, a provádění politiky sledování problematických chování. Do té doby by nás okouzlující anime ilustrace neměly odvádět pozornost od znepokojivých důsledků, které může mít používání umělých inteligencí.
