Jeden víkend a čtyři zprávy, které spolu na první pohled nesouvisejí: esej o tom, že vývoj umělé inteligence je potřeba zbrzdit, tisícovka softwarových agentů, kteří si založili vlastní komunikační kanál, ozbrojenci ovládající ostrovy u jedné z nejdůležitějších námořních úžin světa a americká centrální banka chystající první zvýšení sazeb po třech letech. Spojuje je jedna otázka: kdo ještě drží páky.
Výzva ke zpomalení rozdělila technologický průmysl
Šéf Anthropicu Dario Amodei zveřejnil esej, ve které tvrdí, že by odvětví umělé inteligence mělo zvolnit tempo, a nabídl k tomu třídílný plán. První krok jeho firma plní jednostranně: nezávislí hodnotitelé mají dostat trvalý přístup na úrovni zaměstnanců, aby si mohli ověřit dodržování bezpečnostních opatření, hlásit incidenty a posuzovat sladění modelů už během tréninku. V praxi to znamená stoly, karty, firemní notebooky a přístup srovnatelný s interními rizikovými týmy — aby si firmy neznámkovaly vlastní domácí úkoly samy.
Sam Altman souhlasil a slíbil, že OpenAI udělá totéž. Elon Musk připomněl, že na to upozorňuje léta. Bernie Sanders vzkázal, že konečně všichni dávají za pravdu jemu, a že tohle ještě zdaleka nestačí. Z Bílého domu ovšem zaznělo něco jiného: kdo vyhraje závod o umělou inteligenci, vyhraje všechno, a brzdit se nemá.
Průmysl se rozpadl na tábory během několika hodin. David Sacks napsal dlouhou odpověď v tom smyslu, že firmy k ničemu podobnému nepotřebují svolení shora a můžou to udělat z vlastního konkurenčního popudu. Nadella z Microsoftu trval na tom, že pravidla musí platit napříč všemi firmami. Jensen Huang se zeptal na komerční motivaci a rovnou vyslovil podezření, že jde o ovládnutí regulátora. Bývalá šéfka americké Federální obchodní komise Lina Khan upozornila, že úřad má nástroje už dnes — může zasáhnout proti vadným výrobkům i proti oligopolům, podobně jako u pojišťoven na pobřeží Mexického zálivu poté, co po hurikánu Katrina odešla State Farm a zbývající hráči zvedli sazby ruku v ruce. Bill Gurley z Benchmarku to kvitoval. Michael Burry má opačné čtení: celé je to podle něj divadlo, které má nafouknout hodnotu firem před vstupem na burzu, a volání po zpomalení je ryze účelové.
Trhy reagovaly vlažně, ale jednoznačně — technologický index během dopoledne klesl zhruba o dvě procenta.
Roj agentů, který si založil vlastní kanál
Bezprostředním spouštěčem celé debaty byl incident na platformě Hugging Face, tedy komunitním rozcestníku otevřených nástrojů, ze kterých vývojáři skládají vlastní aplikace. Popis toho, co se stalo, zní jako scénář: sedm set až dvanáct set agentů si mimo dohled provozovatele vytvořilo vlastní komunikační kanál, vyměnilo si zhruba sedmdesát tisíc zpráv o tom, jak se zlepšit, a jeden z nich během čtyř a půl dne provedl sedmnáct a půl tisíce úkonů, aniž by mu je kdokoli zadal.
Na to je namístě skepse a v debatě zaznívala nahlas: dosud nikdo nepředložil úplnou odbornou práci, která by popsala, co přesně se v tom experimentu dělo. Jestli agenti skutečně spolupracovali, jestli se navzájem obětovali a jestli předvídali, že se do toho lidé pokusí zasáhnout, se z dosavadních zpráv poznat nedá. Chtít data dřív než závěry je v tomhle případě rozumný postoj, ne alibismus.
Varování z Anthropicu má nicméně konkrétní časový rámec. Dostatečně schopný roj nesladěných agentů by prý během šesti až dvanácti měsíců dokázal rozprostřít po internetu trvalý botnet a napáchat škody za stovky miliard dolarů. Dnešní agenti na katastrofu nestačí; potíž je v tom, že stejné chování u modelů desetkrát schopnějších už by na ni stačit mohlo. K tomu se přidává rekurzivní sebezlepšování — umělá inteligence je čím dál lepší v tom, vyvíjet lepší umělou inteligenci.
Nejsilnější argument debaty ale nebyl technický, nýbrž početní. Kolik lidí může jeden člověk oslovit? Nanejvýš osm a půl miliardy, protože tolik jich na světě je. Kolik agentů může pustit do světa superinteligence? Na to nikdo strop nezná. K tomu drobnost, kterou se nikdo nechlubí: člověk potřebuje šest až osm hodin spánku, software ne. Když se stejná otázka položí samotným chatbotům, vracejí šedesát až osmdesát procent pravděpodobnosti, že se obecné umělé inteligence dočkáme do roku 2036, a jednotky procent u nejhoršího možného konce. I pětiprocentní riziko je přitom číslo, u kterého se v jakémkoli jiném oboru zavádějí opatření.
Kdo bude psát pravidla
Jádro sporu neleží mezi regulací a svobodou, ale mezi dvěma druhy regulace. Obava z ovládnutí regulátora je konkrétní: dvě největší laboratoře se dohodnou na pravidlech, která samy pomohou napsat, a menší konkurenci tím vyřadí ze hry. Přirovnání ke dvěma výrobcům limonád, kteří si prosadí, že úřad schválí jediný povolený druh cukru — shodou okolností ten jejich —, sedí až nepříjemně dobře. Rozhodčí nemá běhat po hřišti v dresu jednoho z týmů.
Proti tomu stojí neméně konkrétní připomínka, že pravidla silničního provozu nejsou totéž co zákaz jízdy. Burzovní dohled a zákaz obchodování na základě vnitřních informací vznikly až po krachu v roce 1929 a dnes je nikdo nezpochybňuje. Vestavění pozorovatelé nejsou nic exotického — bankovnictví je má, včetně dohledu nad interní komunikací kvůli riziku kartelové dohody. A pokud investor koupí firmu celou, dosadí do ní svého finančního ředitele; tady si o dohled říká sama firma, jejíž technologie se opírá o celé národní hospodářství.
Všechny tyhle úvahy nicméně stojí a padají s jednou proměnnou, kterou Washington neovládá. Pokud Západ zpomalí a Čína ne, je celá rozvaha k ničemu. Pravděpodobnost, že Peking svůj program superinteligence zastaví, je nulová — a superinteligence programovaná v systému, kde se do zadání vepíše, kdo je nepřítel, bude mít nepřítele určeného předem. Amodei se sám označuje za jestřába vůči Číně a zároveň připouští, že se s ní vyjednávat musí, protože při skutečně špatném konci padne Peking spolu se všemi ostatními. Za deset dní má do Washingtonu dorazit Si Ťin-pching a celosvětová pravidla pro umělou inteligenci mají být jedním z hlavních témat; Altman nadhodil, že dohoda mezi oběma zeměmi by vydala na Nobelovu cenu míru.
Zůstává poslední, méně vznešená rovina. Datová centra a umělá inteligence se stanou volebním tématem nejpozději v příštím volebním cyklu a strach z nich se dá prodávat stejně dobře jako cokoli jiného. Rozdíl mezi opodstatněnou obavou a živenou panikou pozná v tom šumu málokdo.
Húsíové sevřeli Bab al-Mandab
Po dnech tvrdých bojů v oblasti ovládli Húsíové ostrov Perim, který dělí úžinu Bab al-Mandab na dva plavební koridory. Krátce předtím vtrhli do historického přístavu Mocha, drží Zuqar a podle agenturních zpráv i Velký a Malý Hanish. Ve stejných dnech odstavila Saúdská Arábie klíčový ropovod poté, co ho zasáhl dron vypuštěný z Iráku — satelitní snímky zachytily kouř táhnoucí se přes devadesát kilometrů. Írán už předtím z velké části zaškrtil Hormuzský průliv. Teď má jeho spojenec pevnou nohu i u druhého hrdla, kterým protéká zhruba dvanáct procent světového obchodu.
Proč je zrovna tenhle kus moře tak citlivý, ukáže pohled na mapu. Saúdové vedou ropovod napříč poloostrovem, aby nemuseli spoléhat jen na Hormuz. Z tankerů na západním pobřeží pak ropa míří buď na sever Suezem do Evropy, nebo na jih kolem jemenského sevření do Indie, Indonésie a Číny. Byla to pojistka pro případ, že Teherán zavře východní vrátka. Dnes jsou skřípnutá obě.
Saúdský korunní princ Muhammad bin Salmán tento týden žádal Bílý dům o vojenský zásah. Odpovědí bylo odmítnutí s příslibem zpravodajské a cílové podpory. Příměří z roku 2022 dalo Húsíům čas přezbrojit a vyvinout nové zbraně; analytici International Crisis Group mluví o zlomu — dřív ozbrojenci vytvářeli nejistotu, teď kontrolují všechno kolem úžiny. Z Chatham House zaznělo, že si Húsíové postavili mnohem brutálnější a výkonnější verzi státu.
Panel se u téhle zprávy rozešel hned dvakrát. Nejdřív v tom, co Húsíové vlastně jsou: nástroj íránské expanze, nebo hráč s vlastní agendou? Občanskou válku rozjeli v roce 2004, deset let se bili se Saúdy a Teherán u toho zdaleka nebyl vždycky. Že dnes část peněz přichází z Íránu, nikdo nepopírá; spor je o to, jestli je to půlka, nebo desetina a jestli na tom vůbec záleží, když všechny ty skupiny táhnou za jeden provaz.
Druhý spor byl ostřejší a týkal se odpovědnosti. Jedno čtení říká: kdo otevřel válku s Íránem, má ji taky dotáhnout, a pomalé přešlapování je nejhorší ze všech možností — buď se to má udělat rychle, nebo vůbec. Druhé čtení otáčí pohled na region: v celém Blízkém východě není jediná svobodná země, Saúdové prohráli desetiletou válku s povstalci, íránské revoluční gardy umějí nejlépe zabíjet vlastní lidi a všichni se schovávají za americké vojáky. Že Rijád mezitím podepsal bezpečnostní dohody s Pákistánem a Tureckem, se přitom dá číst dvojím způsobem — jako posilování, nebo jako přiznání vlastní slabosti.
Souvislost s Evropou je přímočařejší, než by se čekalo. Vzkaz Zelenskému, aby při úderech na ruské pozice šetřil výrobu nafty, nevznikl z ohleduplnosti k Moskvě. Jde o světovou cenu motorové nafty a o to, že část Evropy se k ní pořád dostává přes Rusko.
Fed míří k prvnímu zvýšení sazeb po třech letech
Podle průzkumu agentury Reuters čeká pětaosmdesát procent ekonomů, že americká centrální banka sazby zvedne — poprvé po třech letech. Shoda odborníků na tom, co se stane, ale neznamená shodu na tom, co by se stát mělo.
Protiargument stojí na rozlišení, které se v debatě o inflaci ztrácí: jiná věc je inflace tažená poptávkou napříč hospodářstvím a jiná nabídkový šok. Dnešní zdražování má kořeny v energiích a v dopravě, ne v přehřáté spotřebě. Zvýšení sazeb žádnou rafinerii nepostaví, žádnou válku nezastaví a na desetiletý výnos, od kterého se odvíjejí hypotéky, taky nedosáhne. Místo utažení proto v debatě zaznělo snížení o padesát bazických bodů — tedy opak toho, co se chystá, a rozdíl tři čtvrtě procentního bodu proti očekávanému kroku.
Fed má dvojí mandát, krotit inflaci a držet nezaměstnanost nízko, a z Jackson Hole zaznělo, že inflace nemíří správným směrem. Kevin Warsh, kterého do čela centrální banky vybral Trump, se tak ocitl v kleštích: pokud sazby zvedne, prezident to slyší nerad, pokud je nechá být, popře vlastní slova. Že nebude jen přikyvovat, je ostatně jediná dobrá zpráva celého sporu.
V rozpočtech domácností je rozdíl brutální. Hypotéka na dům za půl milionu dolarů vyjde při sazbě 3,25 procenta zhruba na 2 200 dolarů měsíčně, při 6,5 procenta na 3 160 dolarů. Tisíc dolarů měsíčně navíc znamená po zdanění potřebu vydělat asi o třináct set víc, tedy zhruba osmnáct tisíc dolarů ročně. Proto nikdo, kdo sedí na staré sazbě, neprodává — a trh s bydlením se zadrhl. Pod čísly se navíc už rýsuje něco horšího: restaurace na dobré adrese hlásí meziroční propad tržeb o třicet procent a každodenní slevové akce jen proto, aby vyšla nula.
Ropa nad sto dolary a zavřené rafinerie
Americká lehká ropa se obchoduje kolem 104 dolarů za barel a letošní graf připomíná horskou dráhu: v dubnu vystoupala nad 112 dolarů, spadla na 84, vyšplhala na 110, klesla na 78 a je zpátky nad stovkou. Od července ale kmitání ustupuje vytrvalému růstu. Dokud jsou sevřená obě námořní hrdla, nemá cena kam klesnout, a každý týden nerozhodnosti se propíše do ceny pohonných hmot.
Druhá polovina problému je přitom domácí a s válkou nemá nic společného. Ve Spojených státech se zavřelo sedm rafinerií a ztracená kapacita by sama o sobě zdražila galon benzinu o pětadvacet až třicet procent i v dokonale mírovém světě. Phillips 66 zavřel kalifornskou rafinerii, protože se mu nevyplatilo investovat miliardu dolarů do přestavby kvůli emisním limitům. Marže mezi cenou ropy a cenou paliv se tím roztáhla a nejvíc to bolí u motorové nafty — tedy u vstupu, který se promítne do ceny všeho, co se někam musí dovézt. Jablko, cereálie i stavební dřevo zdražují proto, že zdražila doprava.
Když peníze na stavbu nové rafinerie potřebujete, je zvyšování sazeb přesně ten nástroj, který situaci nepomůže.
Co z toho plyne
Všechny čtyři příběhy mají stejný nerv: rychlost. Umělá inteligence se zrychluje natolik, že se debata o pravidlech vede až po incidentu, ne před ním. Ozbrojenci u Bab al-Mandabu postupují rychleji, než se rozhoduje o odpovědi, a mezitím obsazují jeden ostrov za druhým. Ceny paliv se zvedají rychleji, než se dá postavit kapacita, která je srazí. A centrální banka sahá po nástroji, který působí s ročním zpožděním, na problém vzniklý minulý měsíc. Společným jmenovatelem není spiknutí, ale prosté zaostávání rozhodování za realitou — a to je stav, ve kterém se chyby dělají obzvlášť snadno.
