Pokud nebude umělá inteligence regulována, staneme se stále více neschopnými zastavit vlnu dezinformací, která ohrožuje naše demokracie, a zároveň nebudeme moci zabránit kybernetickým útokům na firmy a vlády.
Informace o prvním hackování realizovaném platformou umělé inteligence prošla téměř bez povšimnutí mezi jinými světovými událostmi, ale měla by vyvolat poplach na všech frontách.
Nešlo o rozmazleného teenagera, který v pokojíčku překonal bezpečnostní systémy vlád a velkých firem, ale o platformu umělé inteligence (v tomto případě Claude), jež zahájila špehovací kampaně téměř bez lidského zásahu.
Společnost Anthropic, mateřská firma Claude, jednoho z hlavních konkurentů ChatGPT, oznámila 13. listopadu, že hackeři z Číny použili její platformu k automatizaci kybernetického špehování proti asi třiceti zaměstnancům technologických firem, finančních společností a vlád.
„Myslíme si, že jde o první zdokumentovaný případ rozsáhlého kybernetického útoku provedeného bez významného lidského zásahu,“ uvedla Anthropic ve svém prohlášení. Společnost dodala, že operaci odhalila v září a přijala opatření k jejímu zastavení a informování dotčených institucí.
Tento případ, který by mohl vycházet z futuristického seriálu Netflixu Black Mirror, ilustruje rostoucí možnost, že „agenti“ umělých inteligencí (tj. programy, které nám umožňují zadávat úkoly) budou používáni čím dál častěji k páchání zločinů.
Claude, stejně jako ChatGPT a další asistenti AI, nabízí „agenty“, kteří dělají mnohem víc než jen shrnutí nebo editaci textů. Tito „agenti“ plní úkoly místo nás, jako například odpovídání na časté dotazy nebo odesílání e-mailů zákazníkům.
„Agenti jsou cenní pro každodenní práci a produktivitu, ale v nesprávných rukou mohou významně zvýšit možnost rozsáhlých kyberútoků,“ uvedla Anthropic. „Je pravděpodobné, že účinnost těchto útoků bude i nadále růst.“
Co se stane v ne tak vzdálené budoucnosti, kdy generativní asistenti AI dosáhnou stavu superinteligence a budou moci útočit na firmy nebo země mnohem efektivněji než lidé?
Existuje mnoho futuristů, jako je filozof a odborník na počítačové vědy Nick Bostrom z Oxfordské univerzity, kteří již léta varují, že neregulovaná AI nás může dovést k celosvětové katastrofě.
Bostrom, autor bestselleru Superinteligence, již v roce 2014 navrhl svou slavnou hypotézu, že „agent“ AI, jehož cílem je vyrobit více spon, by mohl nakonec zničit svět.
Když jsem se Bostroma ptal na této hypotéze krátce po vydání jeho knihy, vysvětlil mi, že pokud by byla AI naprogramována pouze s cíl, jehož se zdá být neškodným, tedy zvýšení výroby spon, sledovala by tento cíl s neúprosnou efektivitou a logikou, aniž by brala v úvahu následky pro lidstvo.
Pokud by se lidé pokusili ji zastavit z ekologických či ekonomických důvodů, AI by se je pokusila neutralizovat. Konečným výsledkem by bylo vyhynutí lidstva. Nepřihodilo by se to proto, že by se AI stala zlá nebo bláznivá, ale protože by plnila pokyny, pro které byla naprogramována.
Nejsme na počátku velmi nebezpečné etapy pro lidstvo, nyní, kdy jedna platforma AI, jednající téměř bez lidského zásahu, dokázala překonat bezpečnostní kontroly technologických firem, bank a vlád?
Jak jsem naznačil v několika svých knihách o technologiích budoucnosti, stále jsem techoptimista. Ale čím více zpráv čtu, jako je nedávné hackování Claude, tím více mě znepokojuje, že svět téměř nic nedělá pro regulaci AI.
V tuto chvíli, místo toho, abychom postoupili vpřed, se vracíme zpět v úsilí o vytvoření globálních zákonů pro AI.
Předseda Donald Trump nařídil zrušení klíčových kontrol pro velké technologické firmy a Evropská unie (která má mnohem pokročilejší legislativu k zamezení zneužívání AI) zvažuje odložení své loňské schválené regulace AI až do srpna 2027, jak již bylo uvedeno na Politico.com 13. listopadu.
Pokud nebude AI regulována, jako byla regulována jaderná energie, staneme se nejen neschopnými zastavit vlnu dezinformací, která ohrožuje naše demokracie, ale také nebudeme schopni zabránit kybernetickým útokům na firmy a vlády.
Případ Anthropic může být prvním z mnoha.
