Varování generálního ředitele společnosti Anthropic: Rozhodnutí o samoškolení umělé inteligence musí lidstvo učinit do roku 2030

Jared Kaplan, hlavní vědec společnosti Anthropic, se domnívá, že umělá inteligence (AI) má potenciál urychlit objevování v oblasti medicíny, zvýšit efektivitu v oblasti zdravotnictví a poskytnout lidem více volného času. Taktéž upozorňuje, že lidstvo bude čelit klíčovému rozhodnutí do roku 2030. Toto rozhodnutí se týká toho, zda systemy založené na umělé inteligenci budou mít povoleno se samostatně vyvíjet a zlepšovat své schopnosti.

Blíží se čas voleb, kdy bude třeba učinit rozhodnutí, které by mohlo vyústit ve výbuch nového úsilí na poli inteligence. Na druhou stranu by to mohlo také znamenat ztrátu kontroly nad technologií, jak vyplynulo z rozhovoru poskytnutého Kaplanem pro deník The Guardian.

Kaplan žádal o zapojení států a veřejnosti do tohoto zásadního rozhodování. Upozornil, že umožnění umělé inteligenci se neustále samostatně zlepšovat je riskantní krok. Tento proces by mohl vést k tomu, že AI se stane samostatnou entitou. Kaplan odhaduje, že lidé budou nuceni učinit tuto důležitou volbu mezi lety 2027 a 2030.

Pokud by byl vytvořen systém umělé inteligence, jehož inteligence by přesahovala lidské schopnosti, mohl by vyprodukovat další AI, která by byla ještě inteligentnější. To je situace, která vzbuzuje obavy. Kaplan zdůraznil, že není možné předvídat, jak takový vývoj dopadne.

Jared Kaplan je spoluzakladatelem a hlavním vědce společnosti Anthropic, která se zaměřuje na umělou inteligenci. Má doktorát z Harvardské univerzity a před připojením se k OpenAI v roce 2019 byl asistentem profesora na Johns Hopkins University. V roce 2021 se stal spoluzakladatelem společnosti Anthropic a jeho kariéra od fyzikálního výzkumníka k miliardáři je pozoruhodná.

Kaplan vyjadřuje obavy, že pokud začne mít umělá inteligence schopnost se sama zlepšovat, lidé ztratí kontrolu nad těmito systémy. Současně však věří, že AI má potenciál zlepšit objevování v medicíně a podpořit lidský pokrok tím, že zvýší efektivitu a poskytne lidem více času.