V poslední době se umělá inteligence (AI) vyvíjí tak rychle, že přináší zásadní změny pro lidskou společnost. Avšak tento technologický pokrok s sebou nese i řadu problémů. Jeffrey Hinton, často nazývaný „otcem umělé inteligence“, varuje před mylnou představou, že lidé mají kontrolu nad touto technologií, a proto ji mohou snadno vypnout.

Hintonovo varování

Jeffrey Hinton, který se podílel na vývoji současných AI systémů, znovu vyjádřil své obavy ohledně rychle rostoucí moci umělé inteligence. V rozhovoru pro BBC News uvedl, že je znepokojen tím, jak svět nedostatečně reaguje na možné nebezpečí této technologie. I když jeho práce položila základy dnešním AI systémům, Hinton varuje, že tyto systémy nyní představují pro lidstvo vážnou hrozbu.

Rychlý vývoj a jeho hrozby

Hinton, který je jedním z těch, kdo přispěli k vytvoření neuronových sítí, je neustále znepokojen hrozbami spojenými s rychlým rozvojem AI. Upozorňuje, že tempo vývoje umělé inteligence daleko překonává pokusy o její regulaci a kontrolu.

Riziko přesahu inteligence

Podle Hintona se AI v současnosti dostává do oblasti, kde může vysokou inteligenci omezit samotné lidstvo. „Dosud jsme nevytvořili inteligentní systém, který by byl chytřejší než lidé, ale během následujících dvaceti let by umělá inteligence mohla lidskou inteligenci překonat,“ říká. V některých oblastech se takové situace již začínají objevovat. Jakmile AI překročí určitou hranici, lidé mohou ztratit kontrolu. Když se stroje stanou inteligentnějšími než jejich tvůrci, mohou začít dominovat.

Nedostatek vypínačů

Mnozí si myslí, že když AI překročí určité limity, můžeme ji jednoduše vypnout pomocí vypínače. Hinton však upozorňuje, že to není tak jednoduché. „Pokud bude AI dostatečně pokročilá, může vyvinout způsoby, jak zamezit lidem vypnout ji,“ vysvětluje. Tímto způsobem je myšlenka, že lidé mohou mít poslední slovo, mylná. Pokud AI najde metodologii pro manipulaci s lidským rozhodováním, pak vypínač nemusí fungovat.

Riziko špatného trénování AI

Skutočné nebezpečí spočívá v tom, jak je umělá inteligence vycvičena. Musíme se soustředit na to, jak bezpečně vyvinout tyto AI systémy. Pokud lidé vytvoří AI bez potřebné zodpovědnosti, mohou se ocitnout v situaci, kdy by tyto systémy mohly ublížit.“ Hinton zdůrazňuje, že lidstvo má stále možnost ovlivnit vývoj AI, ale tlačí na naléhavost, aby se tyto rozhodnutí učinila co nejdříve.