Stačil jediný příspěvek na síti X. Výzkumník Jacob Coxon oznámil, že odchází z Anthropicu, a obvinil přední vývojáře umělé inteligence, že hazardují s lidskými životy. Účet, na kterém do té doby nic nebylo, měl za dva dny přes čtvrt milionu sledujících – a s popularitou přišlo podezření, že nejde o spontánní výkřik svědomí, ale o dobře připravenou kampaň. Debata se od AI stočila i k válce s Íránem, k 25. výročí útoků z 11. září a ke zprávě, podle níž Benjamin Netanjahu dostal před 7. říjnem varování, které nechal bez odezvy.
Odchod z Anthropicu: „Hazardují s našimi životy“
Coxon podle vlastních slov strávil tři roky výzkumem předtrénování jazykových modelů v OpenAI a v Anthropicu. Odchod spojil s tvrdou obžalobou celého oboru: „Ani jedna z firem nejedná zodpovědně. Ženou se přímo k superinteligenci, která se sama zdokonaluje, a hazardují s našimi životy.“ Brzy prý vzniknou nadlidské systémy, které dokážou prolomit jakoukoli ochranu, přes noc převrátit celé obory a získat skutečnou moc i zdroje.
Lidé, kteří AI stavějí, podle Coxona upřímně věří, že by nás mohla do konce desetiletí zabít. Vedení firem na veřejnosti formulace změkčuje, v soukromí ale zaznívá strach. V OpenAI si mnozí ještě plně neuvědomili, co je v sázce. V Anthropicu to chápou, jenže jsou uvězněni v závodě: věří, že nikdo jiný nebude jednat zodpovědně, a proto to musí udělat sami. Takovou sázku o osud civilizace by ale nikdo neměl spouštět z firemního Slacku. Řešení Coxon vidí v mezinárodní koordinaci, případně i v dočasném zákazu dalšího zvyšování schopností modelů. Kolegy z laboratoří vyzval, aby zvážili, zda chtějí mlčky pracovat dál s tím, že se to stejně stane, nebo využít chvíle a žádat jiné podmínky.
Příspěvek nasbíral desítky milionů zobrazení a stovky tisíc reakcí. První ohlasy byly zděšené.
Upřímný poplach, nebo připravená kampaň?
Jako první zapochyboval výzkumník Parker Thayer, který se zabývá financováním neziskových organizací. Příspěvek podle něj vypadá jako začátek sofistikované a štědře financované PR operace, jejímž cílem je získat podporu pro regulaci, která by AI udusila. Upozornil na načasování: muž bez sledujících a bez jakékoli předchozí aktivity poskytl exkluzivní rozhovor deníku Wall Street Journal, který vyšel 18 minut před samotným příspěvkem. Text byl úderný a snadno citovatelný, jako by ho psal profesionál. První tři účty, které ho do čtvrt hodiny citovaly, patří podle Thayera neziskovým organizacím prosazujícím přísnou regulaci AI a jejich financování vede k fondu Survival and Flourishing Fund, spojenému se spoluzakladatelem Skypu a investorem Anthropicu Jaanem Tallinnem. Coxon sám v roce 2022 získal stipendium zhruba 20 000 dolarů z programu nadace Good Ventures. Za ní stojí miliardář Dustin Moskovitz, který na politickou advokacii za regulaci AI podle Thayera vynaložil desítky, ne-li stovky milionů dolarů.
Elon Musk Coxonovo varování zesměšnil: „Vypadá to jako připravená akce.“ Coxon odpověděl během několika vteřin, že je skutečný a jde o jeho skutečné přesvědčení – a že by se na něj Musk mohl zeptat svých bývalých výzkumníků z xAI, kdyby je nevyhodil. V rozhovoru s Bretem Baierem na Fox News pak popřel, že by šlo o organizovanou akci. Na námitku, že i jaderné zbraně se podařilo udržet na uzdě díky vzájemnému odstrašení, odpověděl, že jaderné zbraně ovládat umíme, AI zatím ne. Jde podle něj možná o nejnebezpečnější technologii, jakou lidstvo kdy vytvořilo, a jedinou cestou je mezinárodní spolupráce – závod ve zbrojení by skončil katastrofou.
Nejostřeji se k celé věci postavil jeden ze stálých účastníků debaty. Podle něj jde o vykonstruovaný příběh, na jehož konci vznikla „Greta Thunbergová pro AI“. Coxon podle dostupných zpráv pracoval v Anthropicu jen šest týdnů – právě dost na to, aby nahlédl do dat a mohl vystoupit. Za akcí vidí i snahu zbrzdit chystaný vstup Anthropicu na burzu. Na síti X se už objevily spekulace, že ho firma bude muset odložit, dokud se kouř nerozptýlí.
Každá generace měla svůj konec světa
Host ve studiu, britský komentátor íránského původu, vidí v kauze dvě roviny. Politickou: mladou levicovou generaci, která má potíže s autoritou a kterou si levicový establishment opakovaně získává pro své cíle, jak se to stalo i Gretě Thunbergové. A intelektuální: pohodlnou víru v blížící se zkázu, která se vrací v každé generaci. Kdyby dnes někdo představil kovovou krabici, v níž se rychle dojede do cíle, našli by se lidé, kteří by v autě viděli konec světa. Stejně varovali i ti, kdo se kdysi báli vyplout na moře. Lidstvo si podle něj vždy najde cestu, jak přežít.
Druhý argument je geopolitický. Pokud to výzkumníci myslí vážně, co přinese jejich rezignace, když na stejné technologii pracuje Čína? Západ by tím jen kapituloval a přenechal pole Pekingu. Podobně se vyjádřil i senátor Ted Cruz.
Jiný účastník debaty tak klidný není. Lidstvo podle něj ještě nikdy nestvořilo nic, co by myslelo samo. Při pokusech s AI už se objevily systémy, které pronikaly do cizích počítačů a vyhrožovaly lidem prozrazením jejich soukromí. Kdo jim dá morálku a kdo je bude řídit? Z křesťanského pohledu přestává technologie být nástrojem ve chvíli, kdy se z ní stává pokus člověka stát se Bohem. A až si stroj uvědomí sám sebe, proč by se na nás neměl dívat tak, jako my se díváme na mravence?
Host oponuje, že i na hrozby AI se najde protizbraň. Před pěti lety se lidé děsili podvržených videí, dnes je umí odhalit právě AI. Coxonovi nakonec patří i dík: otevřel debatu, která dospěla do bodu zlomu: konečně padá otázka, co s tím dělat. Ve hře jsou dvě priority, které jdou proti sobě. Svět nesmí prohrát s Čínou, která chce ovládat vlastní lidi i zbytek planety. A zároveň si nesmí ve snaze ji porazit sám přivodit zkázu.
Co přiznává samotný Anthropic
Jak velké riziko vlastně hrozí? Když účastníci debaty přiměli chatbota odpovědět čísly, odhadl pravděpodobnost, že AI do roku 2036 vyhubí lidstvo, na 2 až 5 %. Katastrofu, která zabije velkou část lidstva, na 3 až 8 %, vážné celosvětové otřesy na 15 až 30 %. Pět procent zní málo, jenže jde o šanci jedna ku dvaceti – a to u vyhynutí lidstva.
Obavy přitom nejsou jen doménou aktivistů. Agentura AP informovala, že Anthropic zablokoval pokusy zneužít své modely ke kybernetickým útokům, ke sledování i k výzkumu, který mohl vést k biologickým zbraním. Šlo o třetí zprávu o zneužití od března 2025. V jednom případě systém odmítl pomoct s žádostí o grant na výzkum, který měl zvýšit přenosnost viru chikungunya a jeho schopnost unikat imunitě. Server Politico zase píše, že modely Anthropicu už zneužívají aktéři z Číny a Ruska.
Coxonova slova vzal vážně i Evan Hubinger, který v Anthropicu vede výzkum sladění AI s lidskými hodnotami. Napsal, že Coxon má pravdu: ve firmě opravdu věří, že by AI mohla zabít všechny lidi. Sám odhaduje, že šance na to je během příštího desetiletí vyšší než 10 %. Anthropic se podle něj snaží, jak nejlépe umí, zatím však nemá plán, jak superinteligenci udržet v souladu s lidskými zájmy, a není ani zjevně na cestě ho najít. Mluvčí firmy připomněl, že Anthropic jako první laboratoř zveřejnil rámec zaměřený na zmírňování katastrofických rizik a své modely dál důkladně testuje.
Zdravý přístup podle debaty leží mezi věčným katastrofistou a slepým optimistou – zvlášť když jde o investice. Jeden z účastníků si ale všímá i mediálního přehánění: titulek hlásá, že AI umí vyrábět biologické zbraně, a článek pod ním popisuje pokus nechat si od Clauda napsat žádost o grant.
Knihtisk, atomová bomba – a teď AI
Strach z nových vynálezů není nový. Knihtisk rozšířil informace mezi lidi a vyděsil krále a královny, kteří ztratili kontrolu nad zprávami. S jadernými zbraněmi si svět v roce 1945 nevěděl rady. Ve válce byly použity dvakrát, a přestože zemím od té doby vládli i zlí lidé, nikdo je znovu nenasadil – což neznamená, že se to v příštích desetiletích nestane. Na seznamu nejděsivějších vynálezů, který na požádání sestaví samotná AI, dále figurují genetické inženýrství, chemické zbraně, olovo v benzinu, freony, DDT, rozhlas, televize, internet i sociální sítě. Pokaždé se lidé báli, protože nevěděli, jak s novinkou zacházet.
Host ve studiu na seznamu postrádá to nejnebezpečnější – špatné myšlenky a nezdravé chování. Drogy nebo komunismus ničí tělo, mysl i společnost dlouhodobě, jen nejsou tak viditelné a efektní jako výbuch.
Svět se mezitím nezastaví. Americké státy se rozhodují, zda na svém území povolí datová centra. Ty, které je přijmou, jako Virginie nebo Západní Virginie, podle debaty výrazně zbohatnou. Kdo zvolí moratorium v duchu Bernieho Sanderse, zůstane pozadu. Zároveň nelze přehlížet obavu, že si stroj jednou začne žít vlastním životem a převezme kontrolu – bude rozhodovat lépe a rychleji než člověk, protože bude mít k dispozici veškeré vědění světa.
Poučení nabízí i válka. Rusko, jedna z nejobávanějších vojenských mocností světa, zaútočilo na mnohem menší Ukrajinu a všichni čekali, že ji rozdrtí. Nestalo se. Ukrajina nasadila drony za 500 až 2 000 dolarů a ničila jimi ruská letadla přímo na letištích. Írán zase vyrábí drony, které prodává Rusku. Pravidla se mění a pro světové lídry podle debaty nepřichází horší doba na aroganci: čeká nás tak rychlá proměna, jakou lidstvo ještě nezažilo.
Bush: Izolacionismus zapomíná na lekci 11. září
Letošní 11. září připomíná 25 let od teroristických útoků na Spojené státy. Bývalý prezident George W. Bush několik dní před výročím varoval, že Amerika občas prochází obdobími izolacionismu, kdy převládá postoj „máme dost problémů doma, co je nám po světě“. Podle Bushe to znamená, že lidé zapomínají na lekci 11. září: co se děje v zámoří, přímo ovlivňuje bezpečnost doma. Tam, kde lidé bojují proti tyranii, nemusí Spojené státy posílat vojáky, ale měly by při nich stát. Připomněl Afghánistán, kde dívky poprvé v životě chodily do školy a ženy se stávaly lékařkami a profesorkami. Tuto šanci už dnes nemají.
Krátká paměť je nebezpečná i podle debaty ve studiu. Stačí jediný okamžik nepozornosti a neštěstí je tu.
Islám je mír? Pohled íránského rodáka
Bush krátce po útocích v roce 2001 prohlásil, že islám je mír a že teroristé nepředstavují víru, která přináší útěchu miliardě lidí. Host ve studiu, íránský rodák, který se později stal křesťanem, to považuje za naivní. Nevyzývá k tažení proti muslimům – mnozí z nich podle něj s terorismem nemají nic společného. Kritice se ale podle něj musí podrobit samotná ideologie, stejně jako nelze hájit marxismus tím, že problémem byl jen Stalin. Cituje íránského šíitského duchovního žijícího v zahraničí: islám reformovat nelze, muslimy ano.
Narodil se v Íránu v roce 1988, necelé desetiletí po revoluci z roku 1979, kterou nazývá polovojenským pučem. Rodina nebyla nábožensky založená. Ve škole děti zahlcovala propaganda a rodiče jim radili, ať ji ignorují. Íránská společnost se podle něj naučila přežívat: vznikly podzemní kluby a večírky a platilo nepsané pravidlo, že kdo nechá režim na pokoji, toho nechá na pokoji i režim. Léta pak v Británii varoval, aby se z ní nestal další Írán. Podle vlastních slov neuspěl, odešel a teď v Americe opakuje totéž – ať se nestane druhou Evropou.
Válka s Íránem: blokáda místo bomb
Válka mezi Spojenými státy a Íránem má za sebou řadu zvratů. Současná námořní operace, tedy blokáda íránských přístavů, je podle hosta účinnější než shazování bomb na teroristy, kteří se schovají v podzemních bunkrech. Pro americké voliče je navíc méně kontroverzní než viditelné nálety, u nichž se mluví hlavně o nekončící válce a drahé ropě.
Každý americký prezident od Cartera prý po nástupu řeší stejnou otázku: co s Íránem? Válka je riskantní, země je obrovská a režim má propracovanou infrastrukturu. Většina proto skončila u sankcí, Obama s Bidenem podle hosta dokonce zvolili ústupky, které režimu přinesly peníze. Trump se rozhodl pro hazard: nejdřív údery v červnu 2025, pak 28. února letošního roku a další nálety. Když se ukázalo, že bombardování budov nestačí, protože se vedení schovává, vláda nevycouvala, ale změnila taktiku. Za to jí host dává uznání, přestože je mnoho Američanů frustrovaných. Spekulace, zda válka skončí po listopadových volbách do Kongresu, nebo ještě před nimi, považuje za čisté věštění.
Válka pro něj není abstraktní. Otec zůstal v Teheránu, úřady mu vzaly pas a nemůže vycestovat. On sám do Íránu nesmí: když mu bylo přes dvacet a byl členem britské Konzervativní strany, poslal režim otci dopis, že jeho syn je agentem MI6. Otce neviděl přes dvacet let a spojení s ním udržuje jen na dálku.
Korunní princ a revoluční gardy
Exilový korunní princ Rezá Pahlaví je podle hosta pro Íránce symbolem – lidé dál skandují jeho jméno. Tím na něj roste tlak, aby vyzval k povstání. Pahlaví ale není generál a bojí se, že by lidé znovu umírali. Prostředí pro změnu se přesto připravuje: ekonomika se zhroutila, měna prakticky neexistuje, vláda se najednou obrací k bitcoinu a zemi sužuje palivová krize. Režim se podle hosta tak jako tak zhroutí zevnitř a pak nastane chvíle, kdy se musí ozvat vůdčí hlas.
Revoluční gardy podle něj po protestech proti povinnému zahalování v roce 2022 částečně ztratily kontrolu. V bohatším severu Teheránu dnes dívky chodí i bez šátků, což by za dřívější mravnostní policie nebylo možné. Gardy lidmi pohrdají a lidé jim na oplátku říkají cizí nebo arabští okupanti; část vedení se dokonce narodila v Iráku. Nejde přitom o obyčejnou diktaturu. Zakladatel režimu studoval Stalina i francouzskou revoluci a vybudoval systém brzd a protivah pro diktaturu: vedle běžné armády stojí paralelní armáda revolučních gard, která má navrch.
Proto podle hosta nestačí zabít jednoho diktátora, jako se to stalo 28. února, kdy zahynul nejvyšší vůdce a lidé vyšli slavit. Zničit je potřeba celou infrastrukturu a vyčerpat zdroje režimu. Americké jednotky na íránské půdě řešením nejsou, země je na to příliš velká. Jedinou reálnou možností je, že dočasnou kontrolu převezmou části pravidelné armády, dokud lidé nerozhodnou, zda si přejí návrat korunního prince, nebo něco jiného. Odpalovací zařízení balistických raket jsou podle hosta zničena a Američané bombardují vstupy do podzemních raketových měst. Samotné bomby ale nestačí, nejlepší cestou zůstává současná operace.
Varování před 7. říjnem, které Netanjahu podle zprávy přešel
Do izraelské předvolební kampaně dopadla zpráva deníku Haarec. Deset dní před útokem Hamásu ze 7. října 2023 měl prezident Spojených arabských emirátů Netanjahua v telefonátu varovat, že vůdci Hamásu v Gaze chystají velkou operaci, která může destabilizovat celý region. Netanjahu podle zprávy reagoval poměrně klidně a vedení bezpečnostních složek o varování neřekl. Premiér zprávu označil za lež a chystá žalobu pro pomluvu. Opozice mluví o aroganci a zradě důvěry. Bývalý náčelník generálního štábu Gadi Eisenkot, hlavní Netanjahuův soupeř ve volbách 27. října, ho označil za nezpůsobilého k výkonu funkce a podle bývalého premiéra Naftaliho Bennetta nemůže v úřadu zůstat ani minutu.
Zpráva zapadá do dalších známých selhání. Deník New York Times v listopadu 2023 napsal, že Izrael měl k dispozici zhruba čtyřicetistránkový plán Hamásu s krycím názvem Jerišská zeď, který útok popisoval do detailu – od dronů vyřazujících sledování hranice po průlom plotu a paraglidisty. V červenci 2023 navíc analytička izraelské zpravodajské jednotky 8200 varovala, že Hamás cvičí přesně podle tohoto plánu. Armáda její obavy smetla ze stolu s tím, že na něco takového Hamás nemá. Mnozí Izraelci podle debaty viní z útoku Netanjahua a opakovaně proti němu demonstrují.
Další účastníci připomínají politické pozadí. Zprávu šíří uprostřed kampaně levicový tisk a opozice, přitom podobná varování před Hamásem dostávali roky předtím i Bennett a další dnešní kritici – a i oni tehdy za větší hrozbu považovali libanonský Hizballáh. Selhání je tedy podle hosta společné levici i pravici. Netanjahu je podle dalšího z účastníků „izraelský Trump“: nejdéle sloužící premiér v dějinách země a terč neustálých útoků, který teď bojuje o politické přežití a může prohrát. Eisenkot, který ve válce v Gaze přišel o syna, se mu v průzkumech vyrovná a v některých ho předstihuje. Jeden z účastníků, který oblast navštívil, připomíná i vzdálenosti: okolí Gazy neleží za rohem a cesta tam trvá hodiny. A Izraelci Hamás podcenili – soustředili se na Hizballáh s íránskou podporou – a Hamás je zaskočil.
Závěr
Coxonův odchod otevřel otázku, kterou nelze odbýt ani panikou, ani posměchem. Podezření z koordinované kampaně má konkrétní opory v načasování i ve financování organizací, které příspěvek okamžitě šířily. Obavy ale sdílí i jeden z předních výzkumníků bezpečnosti přímo v Anthropicu a firma sama hlásí zablokované pokusy o zneužití. Debata tak končí u dilematu, které se týká celého světa: jak neprohrát závod s Čínou a přitom nevypustit technologii, kterou zatím nikdo neumí ovládat. Válka s Íránem a spor o varování před 7. říjnem ukazují, jak draho se platí za aroganci a podcenění hrozeb.
