AI má obrovský potenciál, její rozvoj i provoz ale musí zůstat v lidských rukou
Matematik a analytik Dalibor Vavruška odhaluje myšlenky své knihy „Život v době robotů“. V knize vydané nakladatelstvím Grada, a inspirované mimo jiné debatami autora s Tomášem Budníkem ze skupiny Thein, navrhuje, jak by mělo lidstvo přistoupit k příležitostem a rizikům AI.
Překoná AI lidské myšlení
Co vás inspirovalo k napsání knihy „Život v době robotů“?
Dříve jsem psal hlavně pro odborníky. Mé týmy celkem úspěšně předpovídaly tržní a technologické trendy už od 90. let, což nám přineslo řadu mezinárodních ocenění. Impulzem psát knihu se pro mne stala mimo jiné covidová pandemie. Tehdy jsem si uvědomil, jak blízko jsme se kvůli technologiím dostali k epochálním společenským změnám. Rozhodl jsem se nad věcmi zamyslet ještě hlouběji, a najít způsob, jak některé názory co nejlépe sdělit všem, koho toto téma zajímá. Inspiraci jsem přitom čerpal na mnoha místech. Od Karla Čapka, řady dalších autorů a myslitelů, přes zkušenosti s technologiemi, až po mé loňské setkání s britským autorem, filozofem a neurovědcem Ianem McGilchristem. Zda se to povedlo, musí posoudit sami čtenáři.
V knize se často vracíte k otázce, zda AI překoná lidské myšlení. Myslíte si, že je to nevyhnutelné, nebo je stále v lidských rukou, jakým směrem se AI bude vyvíjet?
AI naše myšlení v mnoha ohledech již překonala. Stroje si vyměňují neskutečná množství dat a zpracovávají je rychleji než my. Umí například plánovat cestovní trasy, bleskově vyhledávat myšlenky v knihách, konverzovat na odborná témata, řídit různé procesy či diagnostikovat nemoci – mnohdy lépe než lidé.
McGilchrist si ale všímá jedné podstatné věci. Naše pravá mozková hemisféra pracuje s neúplnými informacemi jinak než AI. Nevnímá svět pomocí algoritmicky zpracovávaných explicitních modelů. Její myšlení je implicitní, holistické. V přírodě se vyskytuje stovky miliónů let, a je klíčové pro přežití živých druhů. Zatím není zřejmé, že AI je schopna takové myšlení replikovat, neřkuli překonat. A i kdyby byla, bez tisíce let čekání na výsledek evoluce to stejně nebudeme s jistotou vědět.
Přínosy, rizika a řešení
Jedním z klíčových konceptů ve vaší knize je AI 4P – AI pro lidi. Můžete blíže vysvětlit, jak by měla taková AI fungovat v praxi?
AI 4P podporuje postupný pokrok jako protipól unáhleného přetváření lidí do zcela nových a evolučně neozkoušených forem existence (transhumanismus). Zůstaneme druhem Homo Sapiens, který v knize nazýváme Homo Sapiens Roboticus. Podstata našeho myšlení se nezmění, nesplyneme s technologiemi, nepřeměníme se na Homo Deus, o kterém psal Yuval Hararri. Svoboda a autonomie jednotlivců zůstanou zachovány, stejně jako lidmi stvořená kultura a společenské normy.
Roboti a digitální propojení se stanou nástroji sloužícími jednotlivcům, používanými z jejich vůle. AI primárně nepůjde o trvalé propojení lidí, masový sběr dat a jejich následné využití pro kolektivní řízení společnosti. Naopak roboti budou sloužit lidem, každému jednotlivci. AI 4P nebude povýšena nad lidské myšlení, mezilidskou důvěru či odpovědnost.
Jaký je podle vás největší přínos AI pro společnost? A naopak, kde vidíte největší rizika?
Možná vás překvapím, ale za největší přínos AI nepovažuji stvoření zázračných léků pro všechny lidi a nemoci, ani vyřešení environmentální krize. A už vůbec ne nastolení všeobecné hojnosti, před kterou Karel Čapek dokonce varoval. Za klíčový považuji přínos AI pro rozvoj vědy a poznání, jejichž interpretace a využití zůstanou v rukou lidí.
Největší hrozbu naopak vidím v potlačení holistického myšlení. To by vedlo k dogmatizaci momentálních poznatků a pohledů na svět, případně omezení svobod, což by nás mohlo uvrhnout na slepou vývojovou kolej. Lidská kontrola, chcete-li svobodná vůle, musí hrát i nadále prim. Rizik je samozřejmě víc – od kyberútoků na klíčovou infrastrukturu včetně finanční, přes myšlenkovou manipulaci, výrobu smrtících virů, až po násilí páchané fyzickými roboty.
Celý rozhovor je k pročtení ZDE.