Nexus: zničí nás nelidská entita, nebo to zvládneme sami?

Kevin Kelly, zakládající redaktor časopisu Wired, vzpomíná, jak se v roce 2002 během jednoho večírku ve společnosti Google dal do řeči s Larrym Pagem. „Larry, pořád to nechápu. Existuje tolik společností zabývajících se vyhledáváním. Vyhledávání na webu zdarma? Co z toho budete mít?“ Page mu vysvětlil, že Google se vůbec nezaměřuje na vyhledávání. „Ve skutečnosti pracujeme na umělé inteligenci,“ odpověděl Larry. Stvořit AI je totiž daleko jednodušší, když máte k dispozici velké množství dat. A umělá inteligence je tu pak od toho, aby přeměnila obrovskou hromadu dat v obrovskou moc. 
— kniha Nexus, Yuval Harari

Asi víte, že jsem fanoušek digitálních vynálezů a tzv. geek. Vystudoval jsem informatiku na Masarykově univerzitě a znovu tam ze zájmu studuji; machine learning (viz 34. Q&A call v čase 1:37:51, kde vysvětluji, proč je i v padesáti skvělé chodit na vysokou). Rád používám nástroje AI, tu a tam včetně generativních modelů jako chatGPT – stěží mě tedy obviníte ze zpátečnictví.

Poslední měsíce přesto cítím potřebu zastavit se a poodstoupit. Nejde jen o zamyšlení se nad nástrahami používání generativní AI v našich životech. Palčivější otázkou je, zda je AI revoluce jen dalším updatem lidstva, nebo je od základu bezprecedentní změnou; a pokud ano, jak to přežít?

A tak jsme v Melvilovi vydali knihu, z níž na začátku cituji, a která tyto otázky rozpracovává z historické perspektivy: Nexus. Získat práva na překlad novinky slavného Yuvala Harariho nebylo snadné ani levné, ale chtěli jsme být u toho, když se v Česku formuje debata na toto téma pro další roky a desetiletí.

Kniha mě místy rozčilovala a určitě nejsem sám. Autor nabízí sociálně-historický pohled na roli informace v dějinách a moc se s tím nepárá. Pracuje s úhlem pohledu, kdy bere informaci jako nástroj pro budování společenských struktur nezávisle na její pravdivosti. Pojetí informace jako nositele pravdy a věrného odrazu reality (kdy by nás víc informací mělo přiblížit pravdě a moudrosti) označuje Harari za naivní koncept. Lež a smyšlené příběhy byly vždy efektivním způsobem udržení řádu a moci a vypadá to, že tomu tak bude i nadále.

Argumentuje, že populisté a oportunisté pravdu nepotřebují; stačí, že správně pečují o své informační sítě, jak ukazuje na příbězích z dávné i nedávné minulosti. „Čí pravdu máte na mysli?“ ptají se populisté s úšklebkem. Autokrati se už tisíce let pokoušejí centralizovat informace, stát se jejich středobodem, nexem. Harari varuje, že donedávna to bylo jen částečně efektivní, protože sběr, uchovávání a zpracování informací naráželo na lidské limity. Jenže limity padly: moderní technologie a AI zpracují donedávna nemyslitelné.

Podle Harariho není informace nástrojem pravdy, ale spojení. Informace (např. příběhy) vytvářejí nové „intersociální skutečnosti” spojením různých bodů do jedné sítě. Podle Harariho není homo sapiens nejrozvinutější proto, že měl víc moudrých informací, ale protože … se je naučil propojovat.

Co z toho tedy plyne? Máme síťový problém, protože lidstvo vytváří obrovské informační sítě, které neumí moudře používat. Demokracie vyžadují dialog, ale my přestáváme mít schopnost spolu mluvit: necháváme si do toho kecat nelidské entity. A což teprve, až je necháme za nás rozhodovat.

Jsme ztraceni? Dá se to změnit? Dokážeme nepřenechat vládu těm, kteří už před lety věděli, že bezplatné vyhledávání je zástěrka pro cestu k ultimátní moci? Můžeme zabránit „datovému kolonialismu” (nové podobě exploatace národů a komunit), digitálním autokraciím či vysoce pravděpodobné zkáze, když se do sebe pustí dvě znepřátelné AI?

Možná ano, možná ne: to je na nás – i na vás. Nejvlivnější současný historik Yuval Harari nabízí spoustu myšlenkových experimentů a možností vývoje. Možná vás to bude bavit a dráždit jako mě (protože Nexus zvedá z gauče). Zkuste to tady a zapojte se do diskuse.

Tomáš Baránek