Jedna ze čtyř lékařských diagnóz generovaných umělou inteligencí je vymyšlená. Přesto to však neodrazuje uživatele, kteří stále důvěřují těmto nástrojům i v oblasti zdraví. I přes varování mnoha odborníků z oblasti medicíny narůstá popularita platforem jako ChatGPT pro lékařské konzultace, což odráží znepokojující trend ve vztahu mezi technologií a veřejnou důvěrou.

Diagnózy generované umělou inteligencí: Důvěra přes chyby

Podle nedávné studie provedené výzkumníky z MIT a publikované v časopise The New England Journal of Medicine mají lidé tendenci hodnotit lékařské odpovědi generované umělou inteligencí jako důvěryhodnější a komplexnější než odpovědi skutečných lékařů nebo specializovaných digitálních platforem.

Studie zahrnovala tři sta osob s různými znalostmi v oblasti medicíny. Účastníci hodnotili tři typy odpovědí na klinické otázky: jednu od zdravotnického profesionála, druhou z digitální platformy a třetí od systému umělé inteligence. Výsledek byl jasný: účastníci projevili výraznou preferenci pro odpovědi od AI, označujíce je za nejkompletní a nejdůvěryhodnější, a to i přes vědomí, že jedna z každých čtyř diagnóz generovaných těmito nástroji je chybná.

Navzdory častým chybám se mnozí uživatelé přiznali, že jsou ochotni řídit se doporučeními generovanými umělou inteligencí.

Obtíže s odlišením AI a skutečných lékařů

Studie rovněž zdůrazňuje obtížnost, se kterou se uživatelé — a dokonce i sami lékaři — snaží rozpoznat, kdy byl diagnóza vypracována umělou inteligencí a kdy lidským odborníkem. Přesvědčivá prezentace odpovědí generovaných umělými jazykovými modely činí rozdíl téměř neznatelným. Tato obtížnost v rozlišení mezi oběma zdroji zvyšuje riziko, že chyby či vymyšlené informace budou přehlédnuty a považovány za platné ze strany pacientů.

Rizika důvěry v AI ve zdravotnictví

Snadný přístup, okamžité odpovědi a zdání komplexnosti, které umělá inteligence poskytuje, vedou mnoho uživatelů k důvěře v ni, i když se jedná o citlivé záležitosti, jako je zdraví. Nicméně odborníci varují, že tato důvěra může být nebezpečná, neboť umělá inteligence postrádá klinickou přípravu a profesionální úsudek potřebný pro správná lékařská rozhodnutí. Studie cituje slova jednoho specialisty: „Umělá inteligence vykonává medicínu bez potřebné kvalifikace k tomu.“

V kontextu, kdy značná část digitálního obsahu je již generována AI, se spolehlivost lékařských informací dostupných na internetu stává více než kdy jindy otázkou. Výzkumníci zdůrazňují potřebu osvojit si kritický postoj a nezanechávat rozhodnutí, která mohou vážně ovlivnit zdraví jednotlivců, na algoritmech.

AI zvyšuje množství vědeckých publikací, ale snižuje jejich kvalitu

Pokrok umělé inteligence ve vědeckém výzkumu vedl k výraznému nárůstu počtu publikovaných článků, ačkoli tento růst byl doprovázen poklesem vnímané kvality těchto publikací. Studie provedená Cornellovou univerzitou ukazuje, že výzkumníci využívající AI produkují až o 50 % více publikací než jejich kolegové, kteří tyto nástroje nepoužívají, což je fenomén obzvlášť výrazný v zemích, kde angličtina není hlavním jazykem.

Avšak tyto práce vykazují nižší míru přijetí v odborných časopisech, což naznačuje, že jejich přínos nebo vědecká relevance může být omezená. Vzhledem k této situaci autoři studie podtrhují potřebu stanovit nová pravidla a standardy, které budou doprovázet rychlé tempo, jakým umělá inteligence mění akademické prostředí.