Debata o umělé inteligenci se obvykle pohybuje mezi dvěma póly: buď nás technologie zničí, nebo nás dovede do věku hojnosti. Technologický novinář a komentátor Ed Zitron zastává třetí pozici, kterou v obou táborech skoro nikdo neslyší rád — generativní umělá inteligence podle něj není ani spása, ani hrozba, ale drahý a nepříliš spolehlivý software prodávaný jako zázrak. Zajímavé na jeho argumentaci není moralizování, ale účetnictví: kdo komu platí, kolik to stojí a co se stane, až peníze dojdou.
Prodáváno jako magie, ve skutečnosti drahý cloudový software
Od roku 2022 se generativní umělá inteligence prezentuje slovníkem zázraku: nahradí veškerou práci, vyléčí rakovinu, promění civilizaci. Když se ale odhlédne od marketingu, zůstane cloudová služba, která je mimořádně drahá, dlouhodobě ztrátová a ve svém jádru nespolehlivá. Nic z toho, co se slibuje, se navíc nedá jednoduše předvést — zeptejte se nadšence, jak má nástroj nastavený, a dozvíte se soustavu triků: tenhle prompt ano, tamten ne, tímhle modelem začít, jiným dokončit. Na technologii, která má být inteligentní, samostatná a nastavitelná jednou provždy, je to podivně komplikovaná obsluha.
Kdyby se táž technologie prodávala střízlivě — jako zajímavý, nákladný výzkumný software s nejasným výhledem —, sotva by kolem ní vznikl tento spor. Právě rozpor mezi tím, co se slibuje, a tím, co nástroje prokazatelně umějí, je jádrem kritiky. Označení umělá inteligence přitom slouží i jako zastírací manévr: pod jednu nálepku se schová predikce struktury bílkovin, robotika i autonomní systémy, které s jazykovými modely nemají nic společného. Když pak někdo namítne, že generativní modely nefungují, dostane odpověď o výzkumu rakoviny.
Kruh peněz: odkud se berou tržby z umělé inteligence
Nejvíc znepokojivé číslo celého odvětví se týká toho, kdo vlastně platí. Zhruba sedmdesát procent všech tržeb z umělé inteligence u velkých cloudových firem pochází od dvou zákazníků — OpenAI a Anthropicu. Obě jsou hluboce ztrátové a bez peněz od týchž firem, kterým platí, by nemohly existovat. Amazon poslal OpenAI padesát miliard dolarů a Anthropicu pět, Google Anthropicu deset miliard. Peníze tak obíhají v kruhu: investor pošle peníze zákazníkovi, ten je vrátí zpět jako platbu za výpočetní kapacitu a investor si je zapíše jako růst tržeb.
Druhá polovina problému je neprůhlednost. Veřejně obchodované firmy své tržby z umělé inteligence prakticky nezveřejňují. Když už nějaké číslo padne, bývá to takzvaná annualizovaná míra tržeb, tedy přepočet krátkého období na celý rok, který si každý definuje po svém — může jít o dvanáctinásobek měsíce, o třináctinásobek čtyř týdnů, o cokoli. Firma, která má dobré zprávy, je obvykle sdělí. Mlčení o číslech u technologie prohlašované za největší změnu v dějinách softwaru je proto samo o sobě informací. V posledním fiskálním roce Microsoftu činily podle propočtů z veřejných dat celkové tržby z umělé inteligence zhruba 34 miliard dolarů, z toho ale 24 miliard tvořily platby od OpenAI — proti kapitálovým výdajům přes 115 miliard dolarů a plánu utratit v následujícím roce 175 miliard.
Bilion dolarů v betonu a čipech
Kapitálové výdaje jsou dlouhodobé jednorázové investice — v tomhle případě datacentra a grafické čipy, které se do nich montují. Čipy pro umělou inteligenci jsou větší, energeticky náročnější a potřebují jich být desetitisíce až statisíce. Datacentrum, které OpenAI staví s Oraclem v texaském Abilene, má výkon 1,2 gigawattu a v každé z osmi budov má být padesát tisíc čipů Nvidia. Pro představu: je to víc energie, než spotřebuje britský Bristol, stlačené do plochy zhruba tisíckrát menší, než má celé město.
Náklady jdou do miliard u každého takového areálu a všechny firmy kromě Microsoftu si na ně už půjčují. Dosud do nich padl přes bilion dolarů a stejná částka je plánovaná na další rok. Analytická data z letošního února mluvila o 190 gigawattech datacenter v přípravě — objem, který by k zaplacení potřeboval roční poptávku v řádu bilionů dolarů. Skutečná roční poptávka po službách generativní umělé inteligence se přitom pohybuje kolem 130 miliard, a i z ní většinu tvoří ony dvě ztrátové laboratoře platící svým vlastním investorům.
Tokeny: kolik generativní AI doopravdy stojí
Jazykové modely se účtují po tokenech, což jsou zhruba tři čtvrtiny slova. Platí se za vstup — dokument nebo zdrojový kód, který do modelu vložíte — i za výstup, přičemž do výstupu se počítá i takzvané přemýšlení modelu. Uživatel s měsíčním předplatným z toho nevidí nic, vidí jen limity. Analytici ale spočítali, že v tarifu za dvě stě dolarů měsíčně lze spálit tokeny za čtrnáct tisíc dolarů, u konkurenční služby za osm tisíc; i ve dvacetidolarovém tarifu vyjde spotřeba běžně na několik set dolarů. Odsud plyne ztráta OpenAI ve výši zhruba 21 miliard dolarů za loňský rok.
Co se stane, když uživatel začne platit skutečnou cenu, se ukázalo letos na jaře, kdy firmy nad sto padesát zaměstnanců přešly na účtování po tokenech. Nadšení vystřídalo hledání úspor — Uber vyčerpal celý roční rozpočet na tokeny za tři měsíce. Zásadní přitom je, že se platí bez ohledu na výsledek: když model při zásahu do kódu něco rozbije nebo si vymyslí, účtuje se to stejně jako úspěšná práce. A poptávka, kterou dnes odvětví vykazuje jako důkaz hodnoty, je z velké části poptávkou po produktu prodávaném hluboko pod nákladovou cenou.
Halucinace a spor o to, s čím umělou inteligenci srovnávat
Halucinací u jednoduchých úloh skutečně ubylo. Chybovost u shrnování textu klesla podle sledovaných žebříčků z bezmála 22 procent před čtyřmi lety na necelé procento u dnešních špičkových modelů. Háček je v tom, čím se pokrok měří: testy jsou stavěné tak, aby na nich modely obstály, a i grafy, kterými se odvětví chlubí u delších úloh, uvádějí úspěšnost kolem poloviny pokusů. U složitější práce se chyba nevytrácí — finanční dotaz vygeneroval kurz akcie, který nikdy neexistoval, a totéž riziko se přenáší do přepisů u lékaře nebo do modelu, na kterém stojí investiční rozhodnutí.
Obvyklá námitka zní, že se umělá inteligence nemá srovnávat s dokonalostí, ale s reálnou alternativou — tedy s vlastním časem nebo s prací začínajícího zaměstnance, který se také mýlí. Odpověď na ni míří na rozdíl mezi pamětí a archivem: nováček se učí, sbírá souvislosti a časem rozumí prostředí, zatímco model má jen soubory, které si někdy přečte a někdy ne. Nebezpečnější než jednotlivá chyba je přitom její násobení. Když model při přepisu kódu nechá otevřená bezpečnostní vrátka a člověk, který půl roku nepsal kód vlastníma rukama, to nepozná, chyby se vrství jedna na druhou.
Dot-com bublina jako falešná útěcha
Nejčastější obranou boomu je poukaz na internetovou bublinu: taky se přehnaně investovalo, taky devadesát procent projektů skončilo na nule, a přesto z toho vzešly firmy, které změnily svět. Skeptiků tehdy nechybělo — ekonom Paul Krugman v roce 1998 předpovídal, že dopad internetu na ekonomiku nakonec nebude větší než dopad faxu, a astronom Clifford Stoll v polovině devadesátých let v Newsweeku odmítal představu, že by se obchod přesunul z obchodních domů do sítí. Oba se v hlavní věci zmýlili.
Ekonomicky ale byla ta bublina jiná. Skládala se ze dvou částí: z nesmyslně oceňovaných webových firem a z takzvaných temných vláken, tedy obřího přebudování optických sítí v očekávání poptávky, která přišla později — kabely v zemi na ni ale počkaly. U datacenter to neplatí. Areál postavený dnes bude v roce 2050 stát na provoz zhruba stejně jako dnes, pokud nedojde k zásadnímu průlomu v energetice nebo v čipech, a grafické karty pro umělou inteligenci se na nic jiného nehodí. Rozdíl je i v poptávce: v devadesátých letech nebyla dotovaná a nikdo lidem netvrdil, že bez internetu přijdou o práci. Dnes existují firmy, kde se od zaměstnanců čeká prohlášení o vyšší produktivitě díky umělé inteligenci bez ohledu na to, zda je pravdivé.
Software se zhoršuje a výpadků přibývá
Že velké firmy nechávají psát část kódu jazykovými modely, se prezentuje jako důkaz produktivity. Kvalita softwaru napříč odvětvím tomu ale neodpovídá: přibývá výpadků, vývojářská platforma GitHub je nedostupná tak často, že si z toho uživatelé dělají legraci, a Amazon Web Services letos několikrát vypadly v souvislosti s nasazenými nástroji na generování kódu. Otevřený software čelí přílivu příspěvků od lidí, kteří s pomocí modelu napsali něco, čemu sami nerozumějí. K tomu se přidává lidská pohodlnost: když posledních sto řádků vyšlo, dalších sto už nikdo tak pečlivě nekontroluje.
Případ zhoršujícího se vyhledávání je starší než generativní umělá inteligence a ukazuje, že rozhodující bývají pobídky, ne technologie. V roce 2019 vyhlásil Google interní poplach kvůli slabým číslům dotazů a tlak na jejich zvýšení narazil na odpor tehdejšího šéfa vyhledávání Bena Gomese, protože víc dotazů znamená horší odpovědi. V roce 2020 převzal vyhledávání dosavadní šéf reklamy Prabhakar Raghavan, ochrana proti spamu se podle pozorovatelů z branže uvolnila a výsledky zhoršily — proto si dnes tolik lidí k dotazu přidává slovo Reddit. Generativní odpovědi na prvním místě stránky jsou pokračováním téže logiky: uživatel má zůstat na vyhledávači místo toho, aby odklikl na cizí web.
Autonomní auta a roboti: jiná technologie, jiný účet
Autonomní vozidla se do debaty pletou často, ačkoli s jazykovými modely nesouvisejí. Dostupné statistiky pro ně vyznívají příznivě — přibližně 2,1 nehody hlášené policii na milion ujetých mil proti zhruba 4,68 u lidských řidičů a řádově osmdesátiprocentní pokles nehod se zraněním. Proti tomu stojí opatrnost ohledně srovnávaného vzorku a hlavně praktická zkušenost: robotická auta se zasekávají, blokují výjezdy z hotelů a jejich provozovatelé je proto nasazují pomalu, ve velmi omezených oblastech a s lidským dohledem. Právě tenhle přístup je na nich to nejrozumnější — postupovat pomalu a považovat je za vinné, dokud se neprokáže opak.
U robotiky platí, že hardware je dlouhodobě levný a drahé bývalo řízení; jak náklady na ně klesly, počet robotických startupů znatelně vzrostl. Data pro trénink jsou ale stále drahá a ekonomika nasazení nemilosrdná: provozovatel restaurace, který dnes nezaplatí důstojnou mzdu za mytí nádobí, nedá dvacet tisíc dolarů za stroj, který ho nahradí. Robotika se navíc opírá o techniky, které jsou starší než dnešní boom, a datacentra, o kterých je řeč, nevznikají pro ni — vznikají pro trénink a provoz generativních modelů.
Bílé límečky: slibovaná náhrada práce se v datech neukazuje
O tom, jak umělá inteligence promění advokacii nebo účetnictví, mluví partneři kanceláří, nikoli koncipienti, kteří skutečnou rešeršní práci odvádějí. To je typický vzorec celé debaty: nadšení přichází od lidí, jejichž práci nástroj nevykonává. Studie samotné OpenAI nenašla žádnou souvislost mezi tím, kolik firma utratí za tokeny, a tržbami na zaměstnance; jiná práce z téže dílny popisuje halucinace jako matematicky nevyhnutelné. Loňská studie Oxford Economics, kterou média citovala jako důkaz, že mladí lidé kvůli umělé inteligenci hůř shánějí práci, obsahovala jedinou větu o jakési korelaci bez čísla.
Zasaženi zatím bývají lidé na okraji zakázkového trhu — grafici, přepisovatelé, překladatelé —, jejichž práci by zadavatel stejně poslal tam, kde je nejlevnější. To není proměna trhu práce, ale další kolo globalizace levné práce. Skutečná změna se odehrává jinde: v tlaku shora. Šéf, který sám nedělá práci, ale má po ruce stroj chválící každý jeho nápad, se ptá, proč zaměstnanci nejsou stejně produktivní. Vzniká tak zvláštní ekonomika předstírání, kde se lidé naučili svou práci označovat za práci umělé inteligence, aby měli pokoj.
Mýty, které se o umělé inteligenci opakují
Tvrzení, že odvětví táhne ekonomický růst, se v datech nehledá snadno: mimo spekulativní nákupy čipů a staveb datacenter nepřekročily výdaje za samotné služby zhruba sto miliard dolarů, proti stovkám miliard v kapitálových výdajích a investičním kapitálu. Neméně vratký je závod s Čínou — čínské laboratoře už srovnatelné modely mají a otázka, k čemu ten závod vlastně je, zůstává bez odpovědi. A představa vědomé umělé inteligence či obecné inteligence je zatím teorie: kdo tvrdí, že nastane, hádá.
Samostatnou kapitolou jsou zprávy o modelech, které vydírají nebo unikají kontrole. V obou nejcitovanějších případech šlo o experimenty, v nichž byl model k danému chování výslovně naveden nebo přímo natrénován, což bylo v původních dokumentech uvedeno — média to přesto podala jako spontánní jednání stroje. Strašení je ale dvousečné. Vedení firem, které roky mluvilo o riziku vyhynutí lidstva, dnes couvá k jazyku hojnosti, protože z odvětví, jež samo sebe označilo za nebezpečné, se stal terč veřejné nevole. Terčem osobních útoků by přitom neměl být nikdo — pískot na veřejném vystoupení je legitimní kritika, obtěžování lidí doma nikoli.
Co by muselo nastat, aby kritika neplatila
Otázka, co by muselo nastat, aby se z dnešní skepse stal omyl, má překvapivě konkrétní odpověď: dramatický průlom v hardwaru, který by srazil náklady o řády, a produkt, který by skutečně dělal to, co se slibuje — spolehlivě, samostatně a bez soustavy podpůrných konstrukcí kolem. Tuhle laťku si přitom nastavilo odvětví samo. Kdyby se od začátku mluvilo o experimentálním nástroji s omezeným záběrem, měřilo by se dnes jinou mírou.
K ekonomickým výhradám se přidávají další. Datacentra vznikají způsobem, který dopadá na okolní obce — plynové turbíny, hluk a zastupitelstva schvalující stavby, které místní nechtějí. A pak je tu nerovnost v přístupu ke kapitálu, kterou celý boom vystavil na odiv: běžný podnikatel se ziskovým, ale pomalu rostoucím záměrem shání úvěr obtížně a na hypotéku se prosvítí do poslední koruny, zatímco na stavbu datacentra s čipy se peníze najdou takřka vždy. Jeden z pronajímatelů výpočetní kapacity dostal od výrobce čipů, který do něj zároveň investoval, smlouvu na zpětný pronájem týchž karet za 1,3 miliardy dolarů — a s ní i důvěryhodnost u banky.
Až bublina praskne
Scénář rozpadu začíná u OpenAI. Firma letos získala přes sto miliard dolarů a podobnou částku bude podle kritiků potřebovat každý rok, jen aby přežila; vstup na burzu se odsunul na rok 2027 a Anthropic ji patrně předběhne, čímž se cesta OpenAI na trh dál zkomplikuje. Pokud firma nebude moci vstoupit na burzu, uvázne i japonský holding SoftBank, který drží její akcie za zhruba sto miliard dolarů na papíře a jehož vlastní hospodaření stojí na schopnosti tyto podíly zpeněžit. Velké cloudové firmy by pak musely snížit výhledy růstu.
Odtud vede řetěz dál. Tržby Nvidie by mohly podle tohoto scénáře spadnout o polovinu až o sedmdesát procent, a protože několik technologických firem tvoří velkou část hodnoty amerických akciových indexů, propad by se přelil do penzijních úspor obyčejných lidí. Rizikový kapitál, který loni poslal víc než polovinu peněz do umělé inteligence, na tom není lépe — jeho výnosy jsou léta slabé a firmy postavené nad jazykovými modely jsou samy ztrátové. Sám Zitron říká, že peníze na trhu nemá a finanční rady dávat nechce; jeho jediné doporučení zní nebrat sliby technologických firem jako podklad k rozhodování, protože ty říkají to, po čem poroste akcie, ne to, co se skutečně děje.
Závěr
Silné na téhle kritice není proroctví o krachu, ale jednoduchá otázka, kterou klade celému odvětví: kdyby to šlo dobře, řekli by nám, jak dobře to jde. Místo toho se mluví o nedefinovaných ukazatelích, o slibech v budoucím čase a o zázracích za pár měsíců. Ať už bublina praskne v roce 2027, nebo vůbec ne, tenhle rozdíl mezi tím, co se tvrdí, a tím, co se dá doložit, zůstane měřítkem, podle kterého se celý boom jednou posoudí.
