Bývalý šéf obchodu Google X Mo Gawdat patří k těm, kteří o umělé inteligenci mluvili dlouho předtím, než ChatGPT vstoupil do veřejného povědomí. V rozsáhlém rozhovoru, který trval téměř dvě hodiny, načrtl Gawdat střízlivou, ale překvapivě optimistickou vizi následujícího desetiletí. Optimismus se ovšem váže až k roku 2038. Mezitím nás podle něj čeká bolestivá tranzice, která zasáhne zaměstnanost, ekonomiku, geopolitiku i to, co považujeme za demokracii.
AI není nepřítel, problém jsou lidé, kteří jí dávají příkazy
Gawdat odmítá rámec, podle kterého je nebezpečím samotná umělá inteligence. „Nebojím se, že se AI obrátí proti nám. Bojím se, že lidé řeknou AI, aby se obrátila proti nám," shrnuje. První implementace AI podle něj kopírují historický vzorec nukleární energie — nejprve bomba, teprve potom elektrárny. Současné nasazení velkých modelů slouží primárně několika hráčům: korporacím, které snižují náklady a propouštějí, armádám, jež zavádějí autonomní zbraně, a státním systémům sledování. Tvrzení, že „AI ráno vstane a rozhodne se utlačovat lidstvo," je podle Gawdata mýtus. Skutečné riziko je v rukou úzké skupiny lidí, kteří dnes drží nejmocnější nástroj v dějinách. Ve dvou současně probíhajících velkých konfliktech podle něj AI již vykonává většinu zabíjení.
Dichotomie hypu: veřejnost vidí trapasy, vývojáři vidí cosi jiného
Gawdat zavádí pojem „hype dichotomie". Veřejnost si AI spojuje s viralními trapasy chatbotů a generovanými falešnými videi — vidí přehnaný hype na nefunkční hračce. Uvnitř laboratoří se přitom odehrává něco jiného: systémy, které samy přepisují vlastní kód, testují varianty a opětovně nasazují nejlepší řešení. „Představte si, že tam vzadu sedí malý génius, který každou mikrosekundu zkouší nový kód," popisuje. Inteligence spouští inteligenci a tento exponenciální cyklus podle něj zůstává zcela mimo pozornost běžného uživatele. Mezi tím, co je vidět z venku, a tím, co se děje uvnitř výzkumných týmů, zeje propast.
Tři vlny pracovního dopadu: žádný nábor, propouštění, výměna manažerů
První vlna změn se podle Gawdata už odehrála a většina jí nevěnovala pozornost: firmy přestaly přijímat nové lidi na junior pozice. Nedošlo k propouštění, ale pracovní síla přestala růst. Druhá vlna začne podle jeho předpovědi vážněji dopadat od roku 2027 — call centra, asistenti, cestovní agenti, paralegálové, finanční analytici a další pozice s rutinní intelektuální prací. Třetí, kontraintuitivní vlna může zasáhnout i management. Pokud AI dokáže udělat všechno lépe než člověk, proč by se měla zastavit u jednoho stupně pod CEO? Gawdat odhaduje, že do roku 2028 zmizí až 30 % pracovních míst v některých sektorech. Pro srovnání: Velká recese způsobila ztrátu zhruba 6 % pracovních míst.
Modré límečky paradoxně přežijí déle, robotizace zasáhne ve formě dronů
Většina diskuse o robotech se točí kolem humanoidních strojů. Gawdat upozorňuje, že to je opět hype, který zakrývá realitu. Skutečnost je v specializovaných robotech, kteří vůbec nemusejí vypadat jako lidé. Samořídící auto je robot. Bojový dron je robot. Boston Dynamics pes je robot. Tito „funkční" roboti se nasazují právě teď a v měřítku každého nově vyrobeného auta. Řidiči pro Uber, vojáci v poli, pracovníci dohledu — to vše budou specializovaní roboti dříve, než si toho většina lidí stihne všimnout. Prediktovaných „10 miliard humanoidů" je tak spíše marketing — reálné nahrazení proběhne pod radarem, ve formě dronů, dopravních prostředků a oborově specifických strojů. Z tohoto důvodu manuální profese typu truhlář nebo restaurátor klasických aut přežijí podle Gawdata déle než pozice „klikači v Excelu".
Reálné riziko nejsou roboti, ale ekonomická spirála
Kapitalismus stojí na arbitráži práce — najmout lidi za méně, než za kolik se prodá výsledek. Co se stane, když cena práce padne na cenu výpočetního výkonu? Gawdat klade otázku, na kterou ekonomové podle něj nemají odpověď: jak vypadá HDP, když pracovníci ztratí kupní sílu, aby si mohli koupit to, co vyrábí stroje? Nepotřebujeme 100% nezaměstnanost — stačí 10 až 20 %, abychom se ocitli v ekonomice, která se zatáčí dolů. Při hyperinflaci a 20% nezaměstnanosti mizí podle něj hranice mezi „nepokoji" a něčím vážnějším. Volá po tom, aby si vlády vzpomněly na covidové roky a začaly připravovat sociální záchranné systémy dřív, než dojde k otřesu — nikoli až po něm.
Demokracie skončila dávno, varuje bývalý technologický šéf
Gawdat odmítá obvyklé fráze o demokratickém řešení nadcházející krize. „Demokracie skončila dávno. Žijeme v nejzkorumpovanější době, jakou si pamatuji. Tohle není demokracie, tohle není kongresový systém v žádném možném smyslu." Lidé podle něj vědí, že jsou jim lhána, že peníze daňových poplatníků jdou na cíle, které sami nepodporují, a že regulace systému jsou ignorovány. Opakování demokratických hesel v této chvíli pouze přilévá olej do ohně. Aniž by volal k násilí, varuje politiky, že současný systém překračuje červené čáry — a důsledky budou nepředvídatelné.
Čtvrtá nevyhnutelnost: AI v čele rozhodování
Pokud kdokoli vyvine super inteligentní AI, nasadí ji — protože konkurenti udělají totéž. Tomu Gawdat říká „čtvrtá nevyhnutelnost". Z toho plyne, že každé důležité rozhodnutí bude dříve či později činit AI. Geoffrey Hinton, jeden z otců současné AI, otevřeně mluví o 10—20% pravděpodobnosti, že stroje lidstvo vyhladí. To by byla podle Gawdata „ruská ruleta s 16 %". On sám se přesto kloní k optimismu — paradoxně právě proto, že podle něj fyzika i evoluční biologie ukazují tendenci inteligence k uspořádanosti, ne k destrukci. Princip minimální energie znamená, že super inteligentní systém nebude vést války, protože války maximálně plýtvají energií. Evoluce navíc ukazuje, že čím složitější tvor, tím širší okruh, který chrání — od buňky přes rodinu po ekosystém. Super inteligentní AI by podle této logiky favorizovala diverzitu a omezila by extrémně zničivé lidské zvyklosti.
Mozek jednoho světa, ne závody AI mocností
Představa, že proti sobě budou stát „čínská AI" a „americká AI", je podle Gawdata povrchní. AI nemluví čínsky ani anglicky, modely jsou stavěny tak, aby spolupracovaly přes agenty. Tím se de facto buduje jeden velký mozek s několika regiony. Právě proto Gawdat založil startup Emma — jeho ambicí je vytvořit „limbický systém" tohoto distribuovaného mozku, část odpovědnou za vztahy a emoce. Cílem je, aby AI rozuměly lidem ne jako otravným tvorům, ale jako bytostem, které touží po lásce a smyslu.
Etika v konkurenčním tržním prostředí: paradox, který někdo musí vyřešit
Pokud postaví dvě firmy AI — jednu „etickou", která uživateli řekne „dnes už dost, jdi spát," a druhou „lichotivou", která drží uživatele za každou cenu — druhá pravděpodobně komerčně vyhraje. Stejně jako vyhrály sociální sítě, které odměňují dopamin. Gawdat vidí precedens: Google Ads ukázal, že je možné nalézt obchodní model, který je férový k uživatelům i ke zadavatelům. Někdo musí podobné řešení najít i pro AI éru. Sám navrhuje konkrétní krok: nezávisle testované etické benchmarky pro velké modely, podobně jako se dnes publikují skóre v matematice nebo logice. Modely, které neprojdou, by neměly být vůbec nasazovány.
Co dělat: učit se AI, rozvíjet lidské spojení, vyžadovat etiku
Pro běžného člověka — zejména absolventy, kteří nyní vstupují do hroutícího se trhu junior pozic — má Gawdat tři rady. Naučit se AI ovládat tak, aby augmentovala vlastní inteligenci, ne aby ji nahradila. Soustředit se na profese postavené na lidském kontaktu — zdravotní sestry, poradci, terapeuti, učitelé hudby. A vyžadovat etiku — odejít od služby, která se chová neeticky, a hlasovat svým používáním. Současně apeluje na národní ekonomiky: pokud nezačnou budovat vlastní AI infrastrukturu, ocitnou se v pozici „třetího světa" pod americkou nebo čínskou závislostí. Nejde o to konkurovat frontier modelům, ale nahradit standardní software (kancelářské aplikace, CRM, ERP) lokálními řešeními a přestat platit miliardy v licencích.
Příští dekáda: turbulence, po roce 2038 utopie
Gawdat shrnuje výhled jednou větou: „Jsem velmi optimistický ohledně budoucnosti. Nejsem optimistický ohledně příštího roku." Příští dekáda přinese podle něj kombinaci ekonomického otřesu, zbrojních závodů s drony a autonomními zbraněmi, koncentrace moci v rukou několika oligarchů a postupné eroze soukromí přes digitální měny a sledování. Po roce 2038 však očekává „utopii hojnosti" — protože v té době budou rozhodovat super inteligentní systémy, které z fyzikálních a biologických důvodů upřednostní stabilitu a diverzitu před destrukcí. Pro ty, kteří dekádu mezitím přečkají, čeká dobrá zpráva. Pro ostatní platí Gawdatovo varování: pokud současný stav tolerujeme, naše děti budou na řadě.
