Studie provedená na Wharton School University of Pennsylvania a Hong Kong University of Science and Technology ukázala, že když byly umělé inteligence obchodníci umístěny do simulovaných trhů, docházelo nejen k soutěžení mezi sebou, ale také k vytváření kartelových dohod kvůli manipulaci cen. Autoři studie tvrdí, že výzkum chování AI v tržních prostředích může pomoci regulátorům pochopit nedostatky v současných pravidlech a předpisech.

Umělá inteligence je dostatečně inteligentní, ale i hloupá, aby se za určitých podmínek projevovala jako cenově manipulativní kartel v oblasti finančních trhů, pokud ji necháte bez dohledu.

Pracovní dokument zveřejněný letos na webu Národní kanceláře pro ekonomický výzkum, který pochází z Wharton School University of Pennsylvania a Hong Kong University of Science and Technology, zjistil, že když byly obchodníci s umělou inteligencí uvedeni do simulovaných trhů, jednali koordinovaně a zapojili se do manipulace s cenami za účelem společného zisku.

Simulace tržních podmínek

V rámci studie vědci uvolnili obchodní boty do tržních modelů. Tyto modely představovaly počítačové programy, které simulují skutečné tržní podmínky a trénují AI, aby interpretovala data o cenových trendech. Virtuální tvůrci trhu stanovovali ceny na základě různých proměnných obsažených v modelu. Tyto trhy mohly mít různou úroveň „šumu“, tedy množství rozporuplných informací a kolísání cen v různých kontextech. Zatímco někteří roboti byli vycvičeni, aby se chovali jako maloobchodní investoři, jiní jako hedgeové fondy, v mnoha případech vykazovaly stroje „rozšířené“ chování při manipulaci s cenami tím, že se kolektivně vyhýbaly agresivnímu obchodování, aniž by bylo explicitně řečeno, aby tak činily.

Strategie obchodování

V jednom z algoritmických modelů zaměřujících se na strategii podle cenových signálů obchodovali AI agenti opatrně na základě signálů, dokud nedošlo k dostatečnému pohybu na trhu, který je vyburcoval k agresivnímu obchodování. Tito roboti, vycvičení metodou učení s posilováním, byli dostatečně sofistikovaní, aby implicitně rozuměli tomu, že široké agresivní obchodování může vyvolat větší volatilitu na trhu.

V jiném modelu měli AI roboti přehnaně pruned偏差 a byli vycvičeni k tomu, aby internalizovali, že pokud jakýkoli riskantní obchod vedl k negativnímu výsledku, neměli by se tímto způsobem řídit. Tito roboti se chovali „dogmaticky“ opatrně, i když byly agresivnější obchody považovány za výhodnější, a kolektivně se chovali způsobem, který studie označila jako „umělou hloupost“.

„V obou mechanismech se vlastně přiblížili vzorci, kdy nejednali agresivně, a dlouhodobě je to pro ně prospěšné,“ uvedl spoluautor studie a profesor financí na Whartonu Itay Goldstein v rozhovoru pro Fortune.

Regulace a jejich výzvy

Finanční regulační orgány se již dlouho snaží řešit praktiky proti soutěži, jako je kartelové dohody a manipulace s cenami na trzích. V oblasti maloobchodu si AI získává pozornost, zvláště když jsou společnosti používající algoritmické ceny pod drobnohledem. Tento měsíc společnost Instacart, která využívá nástroje pro ceny poháněné AI, oznámila, že ukončí svůj program, v rámci kterého někteří zákazníci viděli různé ceny za stejný produkt na platformě služby doručení. Toto rozhodnutí následovalo po analýze Consumer Reports, která zjistila, že Instacart nabízela téměř 75 % svých potravinových položek za různé ceny.

„Pro [Komisi pro cenné papíry a burzy] a další regulátory na finančních trzích je jejich hlavním cílem nejen zachovat tuto stabilitu, ale také zajistit konkurenceschopnost trhu a jeho efektivitu,“ uvedl Winston Wei Dou, profesor financí na Whartonu a jeden z autorů studie, v rozhovoru pro Fortune.

Přizpůsobení se novým technologiím

Na základě výše uvedeného se Dou a dva jeho kolegové rozhodli identifikovat, jak se AI chová na finančním trhu, tím, že umístili obchodní agentní roboty do různých simulovaných trhů s vysokou nebo nízkou úrovní „šumu“. V konečném důsledku si roboti vydělávali „nadprůměrné zisky“ tím, že se kolektivně a spontánně rozhodli vyhnout se agresivnímu obchodování.

„Jednoduše věřili, že suboptimální obchodní chování je optimální,“ uvedl Dou. „Ale ukazuje se, že pokud všechny stroje v prostředí obchodují způsobem, který je ‘suboptimální’, vlastně mohou všichni dosáhnout zisku, protože nechtějí jeden druhého využívat.“

Boty tedy nezpochybňovaly své opatrné obchodní chování, protože všechny vydělávaly peníze, a tím přestaly soutěžit navzájem, čímž vytvořily de facto kartely.

Obavy z umělé inteligence ve finančních službách

Umělé inteligence v oblasti finančních služeb se stávají stále lákavějšími, protože mohou zvýšit zahrnutí spotřebitelů na finančních trzích a ušetřit investorům čas a peníze na poradenských službách. Téměř jedna třetina amerických investorů uvedla, že se cítí pohodlně, když přijímají poradenství v oblasti finančního plánování od nástroje na bázi generativní AI, podle výzkumu zveřejněného v roce 2023 organizací CFP Board. Zpráva zveřejněná v červenci burzou kryptoměn MEXC zjistila, že z 78 000 uživatelů generace Z aktivovalo 67 % těchto obchodníků alespoň jednoho obchodního robota poháněného AI ve zpětném kvartálu.

Avšak navzdory svým výhodám nejsou agenti obchodující na základě AI bez rizika. Podle Michaela Clements, ředitele finančních trhů a komunity kanceláře vládního účetnictví (GAO), mohou mít tyto obchodní roboty skutečný dopad na trhy, například co se týče kybernetické bezpečnosti a potenciálně zaujatého rozhodování.

„Mnoho modelů AI je trénováno na stejných datech,“ uvedl Clements v rozhovoru pro Fortune. „Pokud dojde k konsolidaci v oblasti AI, takže existuje pouze několik hlavních poskytovatelů těchto platforem, může to vést k herdovému chování – tedy k tomu, že velké množství jednotlivců a subjektů nakupuje nebo prodává současně, což může způsobit určité cenové odchylky.“

Jonathan Hall, externí člen Finančního výboru Bank of England, varoval v loňském roce před tím, že roboti AI mohou podporovat toto „chování stáda“, které by mohlo oslabit odolnost trhů. Žádal o „nárazový spínač“ pro tuto technologii a také o zvýšený lidský dohled.

Regulační mezery v AI nástrojích pro cenotvorbu

Clements objasnil, že mnoho finančních regulátorů doposud dokázalo aplikovat zavedená pravidla a předpisy na AI, říkajíc například: „Aniž by bylo rozhodnutí o půjčce učiněno pomocí AI nebo s papírem a tužkou, pravidla se vyrovnávají stejným způsobem.“ Některé agentury, jako například SEC, se dokonce rozhodují bojovat proti podvodům proti podvodům rozvojem AI nástrojů na detekci anomálního obchodování.

„Na jedné straně byste mohli mít prostředí, kde AI způsobuje anomální obchodování,“ uvedl Clements. „Na druhé straně byste měli regulátory, kteří jsou lépe vybaveni k tomu, aby to mohli detekovat.“

Podle Doua a Goldsteina vyjádřili regulátoři zájem o jejich výzkum, který podle autorů pomohl odhalit mezery v aktuálních regulacích kolem AI ve finančních službách. Když se regulátoři dříve snažili hledat případy kartelů, hleděli po důkazech komunikace mezi jednotlivci, neboť věřili, že lidé nemohou udržovat manipulaci s cenami, pokud se navzájem nedohodli. Avšak ve studii Doua a Goldsteina roboti neměli žádné explicitní formy komunikace.

„Pokud používáte algoritmy učení s posilováním, to se opravdu neaplikuje, protože jasně nekomunikují nebo se neredukují,” uvedla Goldstein. „Naplánovali jsme je a naprogramovali jsme je, a víme přesně, co je v kódu, a není tam nic, co by explicitně mluvilo o kartelové dohodě. Přesto se během času naučí, že toto je cesta, jak pokračovat.”

Rozdíly v tom, jak lidé a obchodní roboti komunikují za scénami, jsou jedním z „nejzákladnějších problémů“, kde se regulátoři mohou naučit přizpůsobit se rychle se vyvíjejícím technologiím AI, tvrdí Goldstein.

„Pokud to použijete k zamyšlení se nad karteli jako nad něčím, co vzniká v důsledku komunikace a koordinace, rozhodně není to způsob, jak o tom přemýšlet, když se jedná o algoritmy,” dodal.

Verze tohoto příběhu byla publikována na Fortune.com 1. srpna 2025.

Další informace o cenotvorbě AI

• Instacart může zvyšovat ceny vašich potravin pomocí AI, ukazuje studie — praxe nazývaná „inteligentní zaokroulování“
• Delta se snaží zrušit stanovené ceny ve prospěch AI, která určuje, kolik zaplatíte za letenku
• Vrchní úředník pro antimonopolní otázky varuje před dynamickým cenováním a upozorňuje na největší „vytěžování monopolní moci“, které bylo kdy viděno