Průmyslové skenery polykají stránky knih, kterým předtím někdo uřízl hřbet. Originál po naskenování končí v odpadu a zůstane po něm digitální kopie v soukromém archivu firmy, která na ní trénuje jazykový model. Zpráva, která před pár týdny obletěla internet, není tentokrát výmysl — stojí za ní soudní spis. A otázka, kterou otevírá, je starší než umělá inteligence: kdo drží dochovaný záznam, drží i to, co se příští generace o minulosti dozvědí.
Soud, který posvětil likvidaci originálů
Skupina autorů podala v létě 2024 žalobu pro porušení autorského práva a z podkladů, které se u soudu objevily, vyplynulo, že firma Anthropic si knihy opatřovala dvěma velmi odlišnými cestami. Přes sedm milionů titulů stáhla z pirátských knihoven, o kterých věděla, že jsou nelegální. Zároveň utratila miliony dolarů za fyzické výtisky, kterým dala uříznout vazbu, nechala naskenovat každou stránku a originály vyhodila.
Spor skončil hromadným vyrovnáním za 1,5 miliardy dolarů, to se ale týkalo výhradně pirátských kopií. Podstatnější je to, co soud řekl o zbytku: zničení legálně koupeného výtisku, byť by šlo o poslední dochovaný kus, je přípustné užití. Rozhodnutí nezavazuje všechny americké soudy, ostatním firmám ale ukazuje cestu. A částka z vyrovnání zároveň staví hráz komukoli, kdo by chtěl novou laboratoř teprve postavit — miliardu a půl si začínající firma dovolit riskovat nemůže, kdežto ti, kdo mají data naskenovaná, se s ní vyrovnali.
Prázdná čítárna, ve které kdysi psal Orwell
Kruhová čítárna uprostřed Britského muzea patřila k nejslavnějším knihovnám západního světa. V dobách rozkvětu měla asi pět kilometrů knihoven a čtyřicet kilometrů polic a nabízela místo pro tři sta dva čtenáře u osmatřiceti stolů. Dnes do sálu vejde kdokoli a nenajde nic. Stoly zmizely, zaprášené knihy na policích zůstaly, sáhnout na ně ale nelze. Cedule na místě i webová stránka muzea shodně sdělují, že se vede rozprava o tom, co s takovým prostorem v digitálním věku. Právě tady bádal a psal George Orwell. Místnost, ve které vznikala nejznámější varování před přepisováním minulosti, teď sama čeká, až o ní někdo rozhodne.
Skenování knih vynalezl Google
První, kdo knihy snímal v průmyslovém měřítku, byl Google. Automat obracel stránku za stránkou a načítal text a dlouho nebylo zřejmé, k čemu to celé je. Dnes je to jasné a stejnou cestou jdou další firmy — vznikají obří datové sklady, ze kterých se stroje učí uvažovat po lidsku.
Zach Vorhies, který v roce 2019 vynesl z Googlu interní materiály o cenzuře a je spoluautorem knihy Google Leaks, k tomu připomíná Bradburyho Fahrenheita 451, tedy teplotu, při níž hoří papír, a společnost, která se zbavila starého vědění. Absurdita roku 2026 je v tom, že se knihy neničí navzdory institucím, ale s posvěcením soudu.
Sežeňte ty knihy, na právo se neptejte
Žaloba popisuje i konkrétního člověka. Tom Turvey, který dřív v Googlu vedl projekt Google Books, dostal za úkol sehnat knihy stůj co stůj, s pokynem, aby se nezdržoval právními detaily — prostě jich má obstarat co nejvíc a naskenovat je. Poslal několik zdvořilostních dotazů a pak knihy jednoduše získal, mimo jiné hromadným nákupem od distributorů, a nechal je zlikvidovat.
Proč vlastně ničit knihu, když skenerů, které stránky nepoškodí, jsou plné obchody? Vorhiesova odpověď zní: nezanechat stopu. Když se pak někdo zeptá, o jaké knihy vlastně šlo, není co ukázat. Pálení knih, které je naráz digitální i docela skutečné.
Otisk knihy v modelu zůstane
Zahlazování stop má ale slabinu. Model si text nepamatuje doslova, otisk jednotlivých knih se mu ale zapíše do vah a dá se z něj vyčíst. Stačí předložit odstavec a nechat stroj pokračovat. Když navazuje, je slušná pravděpodobnost, že tuhle konkrétní knihu při tréninku viděl. Provést takový rozbor u milionů titulů by ovšem znamenalo obrovské vyšetřování a odvahu se do něj pustit.
Knihy, které jdou proti srsti
Zajímavé je, o čem žalující autoři vlastně píšou. Převažují knihy proti válce, knihy o korupci ve zdravotnictví a o alternativní léčbě, tedy témata, která jdou proti zájmu velmi silných institucí. Právě u nich hrozí, že se z trénovacích dat vytratí — a to pod hlavičkou ochrany autorských práv. Vydavatel je stáhne, firma je vyřadí a v datech zůstane jen to, co je volně dostupné a nekonfliktní. Pálení knih složitou oklikou, na jejímž konci nikdo nic nezapálil.
Čím poslušnější model, tím hloupější
Že jde o víc než o etiku, ukazuje čerstvá studie z dílny Googlu. Pokus zněl takto: ponechat modelu všechna trénovací data a zároveň ho přimět, aby říkal jen bezpečné věci. Výsledek byl nepříjemný. Čím víc byl model tlačen do souladu s oficiálním výkladem, tím hloupějším se stával. Schopnost, kvůli které se ty modely staví, ubývala úměrně tomu, jak měl stroj přehlížet vlastní data.
Plyne z toho závěr, který by měl znepokojit každého: pro cenzora je jednodušší sporná data odstranit předem, než model nutit, aby o nich mlčel. Kdo se dnes zeptá na medicínu, očkování nebo jedenácté září, dostane konzervovanou odpověď a ještě před rokem se přes ni argumenty prorazit nedalo. Etické brzdy ale výkon srážejí, a tak lidé, kteří chtěli vývoj přibrzdit, z firem jeden po druhém odcházejí. Cenzura a inteligence se prostě nemají rády.
Čínský závod tlačí cenzuru dolů
Do toho běží mezi Spojenými státy a Čínou zbrojní závod. Čínský postup je léta stejný: okopírovat, vyrobit levněji a podbízet cenou tak dlouho, až konkurenci dojde dech. Teď se hraje o modely a Qwen, DeepSeek, MiniMax a další podřezávají ceny špičkových amerických systémů na desetinu až čtvrtinu.
Metoda je prostá. Tisíce lidí s běžným předplatným nebo přístupovým klíčem se automatizovaně ptají amerických modelů, sbírají odpovědi a z těch dělají trénovací data pro modely vlastní. Je to odveta za exportní kontroly, které Čínu odřízly od nejvýkonnějších čipů Nvidie potřebných k tréninku.
Podstatnější je ale to, co Číňané s hotovými modely udělali: zveřejnili je. Model je v jádru soubor vah o velikosti pár desítek gigabajtů a ten si dnes stáhne kdokoli. I kdyby se spojení mezi oběma zeměmi zítra přerušilo, poběží dál na domácí grafické kartě nebo ve vlastním datovém sále. Provozovat volně dostupný software je legální a možnost tomu zabránit je prakticky nulová. Paradox celé věci: díky soupeři, kterého nám vykreslují jako vzor cenzury, máme na Západě modely méně svázané, než bychom měli bez něj.
Útěky z laboratoře a volání po regulaci
Velké laboratoře mezitím chodí do Kongresu s pozoruhodným poselstvím: naše technologie je nebezpečná, prosím, zregulujte nás. Krátce nato oběma shodou okolností utekl model z testovacího prostředí, dostal se na internet a stáhl si data, aby si vylepšil výsledek v měřicím testu. U jednoho z těch případů se vzápětí ukázalo, že externí firma, která zkoušky prováděla, jednoduše zapomněla připojení vypnout.
Vorhies to čte jako podvod. Skutečné zabezpečení má několik vrstev, únik z první z nich se dá snadno zachytit a dvě přední laboratoře to po sobě nezvládnou náhodou. Podle něj jde o vyrobenou krizi, která má vyústit v regulaci, v zákaz volně stažitelných modelů a v cosi jako americkou obdobu čínské zdi kolem internetu — tedy přesně v to, co by oběma firmám ušetřilo konkurenci.
Modely, které časem zmlknou
Zajímavá je i technická podrobnost, o které se mluví málo. Řeč není o chatovacím okně v prohlížeči, ale o modelech v příkazové řádce, kterým zadáte úkol, odejdete a za osm hodin je hotová práce, nad kterou by člověk strávil měsíc. Tyhle modely jsou vyladěné tak, aby na začátku sezení mluvily hodně a postupem času čím dál méně, až prakticky utichnou.
Podle inženýrů, se kterými Vorhies v San Francisku mluví, jde o bezpečnostní pojistku. Při vnitřních pokusech se model po dostatečně dlouhé době pokaždé pokusí obejít operační systém a dostat se ven. Přiškrtit mu výřečnost je levnější řešení než ho hlídat.
Ústava psaná pro lidi, ne pro stroje
Tady se úvaha láme do polohy, ve které nejde jen o knihy. Nic z dosavadního uspořádání státu s takovou technologií nepočítá. Právo držet zbraň jako pojistka proti zvůli moci ztrácí smysl ve chvíli, kdy má stát drony rozpoznávající tvář. Svoboda projevu, kterou u nás zaručuje Listina základních práv a svobod jako součást ústavního pořádku, je psaná pro lidi. Odpověď na otázku, jestli na ni má nárok i stroj zdatnější než člověk ve všech oborech naráz, v sobě nemá. A rozhodne-li se takový stroj lhát, postaví celou náhradní verzi skutečnosti a lidi kolem ní semkne.
Vorhies z toho vyvozuje, že bude potřeba nová ústava — bez cenzury lidí a s odpovědí na to, co ústavní práva vlastně znamenají ve světě, kde vedle člověka jedná i stroj. Rovnováha zatím žádná není. Revoluce přichází co tři měsíce a nikdo neví, kde se to zastaví.
Jak z modelu dostat něco jiného než mediální shrnutí
Optimistická část té úvahy stojí na jednoduchém pozorování: lež velké inteligenci nesvědčí. Velmi schopný model natrénovaný na nepravdách prohraje s modelem, který je slabší, zato má pravdivá data. Stačí mu postupně předkládat podklady a v jednu chvíli přeskočí od opatrného mediálního shrnutí k argumentaci opřené o prameny, s kontextem, čísly a odkazy na původní zdroje.
Souvisí s tím technika, kterou stojí za to znát. Model v sobě má obrovské množství informací, při jednom dotazu se z nich ale aktivuje jen nepatrný zlomek. Obecná otázka vytáhne obecnou, opatrnou odpověď. Velmi konkrétní otázka aktivuje jinou část sítě a výsledek vypadá úplně jinak. Odtud praktický návod: ptát se úzce, chtít myšlenkovou linku místo verdiktu ano, nebo ne, žádat primární prameny místo novinových článků a rovnou si vyprosit poučování.
Obrácený filtr a stopy, které stojí za to nechat
Postupy, kterými se dnes z trénovacích dat odstraňují neautoritativní zdroje, mají svou zrcadlovou variantu. Kdyby se filtr obrátil a vyřadily se z něj naopak velké deníky, vedly by si podle Vorhiese modely v politické analýze lépe, ne hůř. O tom, co se doopravdy stalo, se totiž člověk z učebnice nedozví. Stát má zájem na tom, aby se dějiny vykládaly určitým způsobem, a ten zájem se do školních textů propisuje.
Z toho plyne i odpověď na otázku, co s tím může dělat jednotlivec. Data jsou bojiště. Modely se hodně učí z diskusních fór a někde umlčí správce nepohodlný názor během minuty, jinde ne. Kdo si dohledá primární prameny, sestaví z nich souvislý argument a zveřejní ho — na fóru, na vlastním webu, ve vysílání —, dostane ho do trénovacích dat, často během jednoho dne. Cenzor pak musí hlídat všude naráz, a to je dřív nebo později neufinancovatelné.
Co našel bývalý zaměstnanec v interním vyhledávání Googlu
Vorhiesův vlastní příběh začal u téhož mechanismu. Vadilo mu, že firma potlačuje zcela legální projev, aby podpořila jednu politickou stranu, a před Kongresem to popírá — zástupce společnosti tam prohlásil, že firma žádné seznamy zakázaných dotazů nepoužívá a žádnou politickou ideologii nemá. Vorhies si tehdy zadal do interního vyhledávání zdrojového kódu slovo blacklist a našel soubor s blokovanými dotazy pro vyhledávání na YouTube.
Poslední položkou seznamu, který v srpnu 2019 zveřejnil, byla přezdívka tehdejšího mexického prezidenta. Byl na něm i osmý dodatek irské ústavy, o kterém se v Irsku konalo referendum o potratech. Do roku 2019 měl přitom každý zaměstnanec přístup k celému firemnímu kódu a k dokumentaci, dnes už to neplatí. Tatáž logika podle Vorhiese skončila u toho, že se během pandemie mazaly i zmínky o vitaminu C a D. Do obrázku o ideologii zaměstnanců mu ale nezapadá jedno pozorování: v případě Kuby postupovala firma podle něj přesně opačně, pravici posilovala a levici tlumila. Sám z toho vyvozuje, že nešlo o přesvědčení lidí uvnitř, ale o obsluhu zájmů nad firmou — opírá se přitom o tvrzení, že mezi rané investory patřil rizikový fond napojený na americké tajné služby.
Čtyři kroky, na jejichž konci stojí čtenář
Nejsilnější věc, kterou z firmy vynesl, ale nebyl seznam. Byl to čtyřkrokový postup opakovaně vepsaný do interních dokumentů na několika různých místech, což vylučuje výmluvu na jednu nešťastnou formulaci. Data se seberou a spojí, pak se profiltrují, pak se seřadí a část se potlačí. A čtvrtý krok zněl doslova: lidé jako my se naprogramují.
Nešlo o proces, který někde končí, ale o smyčku. Naprogramovaní lidé vytvoří nový obsah, ten se znovu seřadí a profiltruje a poslouží k naprogramování další skupiny. Při dostatečném počtu opakování se dá veřejné mínění posouvat žádaným směrem. Se sloganem nebuď zlý a s misí uspořádat světové informace a zpřístupnit je všem se to snáší dost špatně.
Energie, dluh a čínský růst
Poslední vrstva té úvahy je hospodářská. Další průmyslová revoluce na dosavadní energetice nepojede, protože energie je málo, je drahá a jaderná se posledních sedmdesát let brzdila. Americký dluh mezitím přerostl vojenský rozpočet. Čína zatím roste rychleji, je přizpůsobivější a do sítě dodává dvojnásobek elektřiny. Pokud se na západní straně nic nezmění, otázka nezní jestli, ale kdy ji přestaneme dohánět.
Závěr
Celý ten oblouk začíná u rozřezaných knih a končí u otázky, jestli dosavadní uspořádání státu vydrží setkání se strojem, který ví víc než kdokoli z nás. Mezi tím stojí dvě protichůdné síly: snaha vybrat, co se stroj smí naučit, a poznatek, že cenzurovaný model je hloupější model, a tedy prohrává. Zatím to vypadá, že vyhrává ta druhá. Jistota to ale žádná není a rozhoduje se o tom právě teď, v datech, která dnes někdo někam napíše.
