Život v době robotů se jmenuje publikace, kterou právě vydal Nakladatelský dům GRADA. Autorem je Dalibor Vavruška, vystudovaný matematik. Dvacet pět let působil jako investiční analytik a stratég v předních světových finančních institucích, včetně Citigroup, ING a Credit Suisse. Vedl mezinárodní týmy zaměřené na investiční výzkum v oblasti telekomunikací a digitálních technologií. Je držitelem mnoha prestižních mezinárodních ocenění za svou investičně analytickou a poradenskou činnost. Jako analytik stál u řady veřejných nabídek akcií zejména telekomunikačních společností v Evropě, Asii a Africe. Podílel se také na tvorbě komerčních strategií a evropské legislativy v oblasti telekomunikací, digitálních trhů a umělé inteligence. V poslední době se zabývá poradenskou a výzkumnou činností, například v oblastech digitálních strategií, umělé inteligence, datové regulace a suverenity. Měla jsem možnost položit mu několik otázek:
Bude umělá inteligence opravdu tak všemocná, jak se o tom hovoří? Nezaměňujeme strach, iluze a sny?
Digitální sítě dnes přenášejí ohromná množství dat po celém světě. Umělá inteligence s nimi pak pracuje mnohem výkonněji než člověk, což otvírá prostor pro řešení dosud neřešitelných problémů. Mimo jiné ve vědeckém, technologickém a vojenském výzkumu. To samozřejmě posiluje vliv AI systémů a lidí, kteří za nimi stojí. Všemocnou se však AI nestane ani náhodou. Na rozdíl od živých organizmů, našich mozků a těl, AI totiž nemá mechanizmy pro svou vlastní přirozenou obnovu. Není evolučně ozkoušená. Všemocnost znamená možnost dělat cokoli po jakkoli dlouhou dobu. AI lze charakterizovat různě, ale trvalost či věčnost k těmto charakteristikám rozhodně nepatří. Spíš rychlé změny, fantastické inovace, ale i klamavé iluze, strachy a potenciálně ničivé katastrofy. K čemu AI povede a jak bude vypadat za nějakou dobu, to prostě nevíme, a ani vědět nemůžeme.
Poradí investorům, do čeho vkládat peníze, konstruktérům, jakou cestou se vydat při hledání perpeta mobile?
AI investorům pomůže vyznat se v neustále komplikujících se předpisech a regulacích, efektivněji obchodovat, řešit administrativní záležitosti. Co však nedokáže, je ze dvou investic vybrat tu dlouhodobě výnosnější. Kdyby to šlo, svět by se za nějakou dobu ocitl v rukou uživatelů nejvýkonnějších investičních robotů. Jenže skutečnou realitu, a tedy i finanční trhy, pomocí dat prostě modelovat nepůjde. Třeba proto, že roboti postrádají holistické myšlení. Na druhou stranu AI patrně skokově zvýší produktivitu práce i energetickou efektivitu. O tom, že by umělá inteligence mohla popřít i uznávané fyzikální zákony, a vytvořit tak perpetum mobile v čistém slova smyslu, velmi pochybuji. Některé z uznávaných vědeckých teorií by teoreticky sice pozměnit mohla, ale je otázka, zda by to mělo prakticky použitelné důsledky. A i kdyby to perpetum mobile nakonec přinesla, není jisté, že by to bylo společensky přínosné. Karel Čapek v Továrně na absolutno ukázal, že si to nemyslí.
Co od ní můžeme očekávat v oborech telekomunikací nebo kriminalistiky?
Podstatou telekomunikací byl původně přenos informací mezi lidmi, následně přenos jakéhokoli zvuku a obrazu na dálku. Další fází je komunikace lidí s roboty, dnes například s Chatem GPT. Ani tam se ale vývoj nezastaví. Umělá inteligence získá schopnost vytvářet dojmy nerozeznatelné od reality. Bude nejen ovlivňovat naše myšlení, ale i naše okolí pomocí různých bezdrátově propojených přístrojů. To vše přinese příležitosti v telekomunikacích. Zároveň ale vyvstanou etické a společenské otázky, zejména kolem manipulace lidí a omezování jejich práv. Podobně je to i v kriminalistice. AI umožní chování lidí nejen sledovat, ale do určité míry jej bude i předpovídat a ovlivňovat. Masové nasazení takových technologií by přineslo nejen ztrátu soukromí, ale i riziko neférových zásahů do života v zatím nevídaném rozsahu. Třeba v souvislosti s předsudky tvořenými ne zcela transparentními algoritmy.
Nezačne se nám příliš plést do života?
AI se nám do života už přece plete. Sociální sítě zcela zásadním způsobem formují názory a priority zejména mladých lidí. Toho již ve velkém využívají marketéři spotřebního zboží i politických stran. Kdybychom se dnes chtěli zásahů AI od našich životů zbavit, museli bychom se zbavit samotné AI, což není ani reálné a ani žádoucí. Lepším řešením je zachovat AI, ale jasně nad ní nadřadit myšlení jednotlivců, zejména holistické a intuitivní, stejně jako víru v kolektivně uznávané společenské hodnoty. Také bychom měli v rozumné míře udržet komunikaci mezi lidmi způsoby, do kterých AI nemůže zasahovat. Tedy osobní setkávání nebo čtení tištěných knih.
Porostou výdaje firem do procesů robotizace, automatizace, procesů řízených algoritmy? Bude to hlavní východisko k vyšší efektivitě práce?
Umělá inteligence dnes představuje jednu z hlavních možností, jak navyšovat efektivitu práce, a to i skokově. Firmy jsou tak pod tlakem automatizovat, což bude zřejmě nějakou dobu pokračovat. Na druhou stranu je třeba si uvědomit, že u AI hraje zásadní roli „scale economy“, tedy úspory z rozsahu. V dostatečně propojeném světě tak hlavní ekonomickou výhodu získají globální technologické korporace. Ty se sice o část svých výnosů dělí, například podporou rozvoje odvětví rizikového kapitálu, ale obecně je netíží odpovědnost za fungování lokálních komunit. Lokální daně často platí jen v omezené míře. Jimi prosazovaná technologická centralizace navíc zvyšuje dlouhodobá ekonomická rizika. Řešením je „chytré investování do automatizace“, které bere v úvahu nejen globální ekonomické efekty, ale i zájmy a vliv lokálních komunit a všech jejich členů.
Promění se svět finančních služeb?
Finanční služby jsou páteří fungování ekonomiky, a tím pádem celé společnosti. Digitální měny mohou otevřít prostor pro takzvanou multidimenzionální ekonomiku, ve které jsou transakce podmiňovány splněním určitých podmínek, podobně jako je to u nákupu léků na recept. Pokud bude pokračovat současný trend neustálého nárůstu regulací a nařízení, s jejich plněním nám budou pomáhat roboti. To vše by mělo zvýšit efektivitu takzvané udržitelné ekonomiky. Pokud by se to ale nezdařilo, dostavil by se opačný efekt, včetně frustrace z omezení lidské autonomie a svobody. Navržení solidního, důvěryhodného a společensky přijatelného finančního systému pro dobu robotů tak vůbec nebude jednoduché.
Nebo přijde další revoluční zlom a lidé se budou dožadovat bankovních kamenných poboček a osobní konzultace u stolu?
To je dobrá otázka. Dokud finanční služby zůstanou jednoduché, jako například platby nebo vklady, lidé budou preferovat co nejpohodlnější řešení. A tím je pro většinu z nich řešení digitální. Mohou se ale stát dvě věci. Jednak by mohlo dojít k selhání nebo k záměrnému útoku na kybernetické systémy. V okamžiku, kdy by lidem začaly náhodně zčernávat obrazovky jejich mobilů a bankovních aplikací, výhody hotových peněz a kamenných poboček by si uvědomili velmi rychle. Ve složitějších situacích pak zákazníci mohou preferovat přímý kontakt s bankovním úředníkem například proto, že člověk myslí jinak než robot, nebo proto, že v důležitých věcech chtějí důvěřovat víc lidem než strojům.
Jinými slovy, než se AI prostřednictvím sama sebe zdokonalí, nebudeme jí mít plné zuby? Nebo to z principu jí samé vlastně nebude možné?
Otázka je, co považujeme za dokonalost AI. Lidský život vždy byl a bude o překonávání překážek, což nám přirozeně způsobuje strasti. Věřit, že přijde nějaká dokonalá technologie, zbaví nás všech problémů a přinese hojnost, je nejen naivní, ale i nebezpečné. Toho si ostatně všímal i Karel Čapek. AI vyřeší jen některé z našich problémů, a svou nedokonalostí způsobí jiné. Když budeme mít pocit, že nám to celkově pomáhá, že se vývojově posouváme dopředu, vše bude v pořádku. Kdyby se ale nově vzniklé problémy ukázaly jako horší než ty, kterých nás AI má zbavit, pak bychom robotů měli plné zuby poměrně rychle.
Svět se stal jednou propojenou digitální soustavou a vše až příliš podléhá logice. Brzy možná nebudeme toužit po pěkném slově, vztazích, přízni, ale povedou nás životem pouze fakta a argumenty. Nebude to škoda?
I přes dnešní nadšení do takzvaně dehumanizujících technologií si nemyslím, že projevy lidství ze svých životů dlouhodobě vytěsníme. Fakta a argumenty popisují jen část reality. Stejně jako nelze exaktně teoreticky modelovat chování finančních trhů, nelze modelovat ani chování živých stvoření, včetně lidí. Tím neříkám, že nevzniknou velmi zajímavé a docela spolehlivé AI modely, například pro předpovídání zdravotního stavu nebo odhad nákupních preferencí spotřebitelů. Podobně jako u předpovídání počasí bych si ale dovolil tvrdit, že budou fungovat spíš krátkodobě a nevyhnou se případům zásadního selhání. Naše civilizace se tak na nich nesmí stát fatálně závislou. Musíme docenit důležitost hlubokých mezilidských vztahů, a tedy i humoru, nadsázky či symboliky. Naše komunikace a vidění světa musí zůstat zasazené do lidského kontextu. Musí být nejen explicitní, ale i implicitní.
Jak obstojí v takovém prostředí intuice, rozhodování srdcem?
Dnešní společnost je do velké míry utilitární. Za klíčové považujeme materiální pohodlí a potěšení, a k tomu ještě exaktně a měřitelně pojatou udržitelnost. Role intuice a srdce jsou přitom potlačovány. Navíc, i když si to někdy nechceme připustit, u mnoha dnešních pracovních rolí nejsou čistě lidské vlastnosti vlastně moc potřeba. Od robotů tak lze očekávat zvýšení efektivity práce, a tedy zvýšení výdělků pro zaměstnavatele a některé zaměstnance, což jim přinese víc pohodlí a potěšení. Vytvoříme tím ale rozumně sociálně vyváženou společnost odolnou v dobrých i špatných časech? Přinese nám to co nejlepší podmínky pro rozvoj lidského druhu? To už tak přímočaré není. Naopak se může stát, že nějaký krizový moment spustí zásadní společenskou změnu, jakousi obrodu, po které budou role intuice a srdce znovu posíleny. To by nás mohlo dovést ke zdravějšímu a dlouhodobě udržitelnějšímu vztahu k umělé inteligenci. Ve své knize takový přístup nazývám AI4P, tedy AI for people neboli AI pro lidi.
Co když robot vybere špatné údaje, nevhodná čísla, a ještě je bude mylně interpretovat? Nehrozí planetě nějaká fatální chyba?
Sama příroda se takovému problému vyhýbá tím, že funguje na decentralizované bázi. Genetická informace lidského rodu je uložena nejen v každém z nás, ale i v každé naší buňce. Společnost lze do nějaké míry centralizovat, například pomocí sdílených hodnot, informací a technologií. Zatím ale nikdy nešlo o dokonalé centrální ovládání lidí či přírody v reálném čase. Kdybychom se o něco takového pokusili, riziko planetární katastrofy by podle mého názoru bylo ohromné. AI systémy z principu vidí jen výřez reality. Nemají evolucí ozkoušené mechanizmy pro práci s neúplnými informacemi či velmi nepravděpodobnými jevy. V našich AI 4P principech proto voláme po limitech pro datovou centralizaci a posílení autonomie pro lidi a jejich myšlení.
A bude umět AI produkovat také vtipy, jimž se s chutí zasměje každý Čech?
Ačkoli se to tak nemusí zdát, toto je velmi podstatná otázka. AI mistrně zvládne jazyk, naučí se, co lidé vnímají jako vtipné, a to jim může předkládat. Navíc získá vhled do lidské psychologie, a dokonce i do české kultury, což jí ještě víc pomůže vymýšlet, jak nás rozesmát. Přesto ale lidský humor nenahradí. Ten totiž nestojí na exaktním chápání, ale na dvojsmyslech, narážkách. Ty vycházejí z kontextu momentální situace, kultury a mezilidských vztahů. Jde o věci, které si budují lidé sami pro sebe, a které částečně musí zůstat jen mezi lidmi. Humor se tak možná stane naší hlavní zbraní proti robotům, kdybychom se jimi někdy cítili ohrožení. Prostě si z nich začneme dělat legraci. Tím posílíme důvěru v lidi oproti důvěře v roboty, což Karel Čapek považoval za klíčové pro zdraví společnosti.
ptala se Eva Brixi