Komentář na YouTube otevírá myšlenkový experiment: vezměte nejpokročilejší dnešní AI a vytrénujte ji znova, ale vymažte z dat veškerou fyziku a matematiku, která vznikla po roce 1680. Žádný integrální počet, žádná klasická mechanika, žádná relativita. Pak položte jednu otázku: plyne čas pro všechny stejně? Takový systém by zvládl advokátní zkoušky, psal by lépe než většina novinářů a diagnostikoval by nemoci, na kterých pohořeli tři specialisté za sebou. Ale konceptuální skok od plochého statického vesmíru k zakřivenému časoprostoru by pro něj zůstal nedosažitelný. Právě tahle slepá skvrna podle autora odhaluje, jaká je dnešní umělá inteligence ve skutečnosti forma — a proč debata o AGI a superinteligenci vede většinou vedle podstaty věci.
Cílová čára AGI se posouvá: nikdo se neshodne, kde leží start
Google DeepMind podle autora vydal 57stránkovou studii, která mapuje cestu od obecné umělé inteligence (AGI) k umělé superinteligenci (ASI). Diskuse kolem ní je podle něj „něco mezi filozofickým seminářem, marketingovou poradnou a hospodskou rvačkou", protože odborníci se neshodnou na startovní čáře. Před pár lety stačilo, aby stroj uměl plynule konverzovat, složil advokátní zkoušky, namaloval obrázky a označil semafory na captche. Pak se laťka posunula k 99 procentům kvalifikovaných dospělých v širokém spektru úkolů. Nová studie DeepMindu podle komentáře definuje AGI jako dosažení průměrného lidského výkonu ve většině kognitivních úloh.
Komentář cituje Heidy Khlaaf, hlavní vědeckou pracovnici (Chief AI Scientist) v AI Now Institute, podle níž je pojem AGI „příliš špatně definován, než aby se dal seriózně měřit". Autor tezi rozvíjí vlastním obrazem: jakmile se laťce přiblížíte, někdo potichu popadne cílovou pásku a odnese ji o pár metrů dál — nebo jakmile něco začne fungovat, přestane se tomu říkat AI. Marketing v laboratorním plášti vyhrává nad vědou, protože měřitelná základní linie chybí.
Užitečnost předbíhá pochopení: oheň jako historická paralela
Autor namítá běžnou výhradu („nemůžeme přece postavit něco, čemu nerozumíme") historií ohně. Pravěcí lidé ho ovládli a změnili s ním civilizaci — vařili, kovali nástroje, stavěli kolem ohnišť kmeny, oháněli predátory — a to stovky tisíc let před tím, než kdokoli chápal oxidaci a termodynamiku. Porozumění přišlo o tisíciletí později. Mechanismus lidských inovací je podle něj odjakživa stejný: nejdřív něco postavíme, pak teprve zjišťujeme, proč to funguje.
Komentář ovšem hned dodává zásadní rozdíl: oheň je jen chemická reakce podle neměnných zákonů, nemá plán a nevybírá si. Inteligence naopak dělá autonomní rozhodnutí, reaguje, přizpůsobuje se a sleduje vlastní cíle. Zažehnout proces, který si sám určuje, co chce, když ani netušíme, jak k těm záměrům dochází, je podle autora řádově rizikovější. Mechanismus inovace se však kvůli vyšším sázkám nezmění — proto je třeba přestat tápat v tom, čím AI vlastně je.
Cizí druh inteligence: termiti, vrány a strukturální výhody digitálu
Autor tvrdí, že děláme stejnou chybu, jako kdybychom hodnotili rybu podle toho, jak elegantně vyleze na strom — očekáváme, že digitální inteligence bude uvažovat jako člověk. Jeden termit nepřemýšlí, ale celá kolonie postaví mohyly s pasivním větráním, které reguluje teplotu lépe než návrh placeného leteckého inženýra vzduchotechniky. Rostlina napadená škůdcem vysílá kořenovou sítí chemické varování sousedům. Vrána řeší mechanické hlavolamy, které psa totálně ochromí. Žádná z těchto inteligencí nepřipomíná lidské myšlení a přesto není hloupá — jsou to cizí druhy optimalizované pro jiné problémy.
Podle DeepMindu má digitální inteligence proti té biologické tři strukturální výhody. První je nezávislost na substrátu: AI není uvězněná v jedné lebce, během sekund se přesune z datacentra v Kalifornii do telefonu v Tokiu — je to přenositelný vzorec, ne krabice. Druhou je bezztrátové kopírování. Výchova špičkového lékaře stojí 20 let studia, roky atestací a tisíce hodin formující klinické intuice, která zmizí s ním. U AI stačí zkopírovat váhy a stav paměti, a vznikne milion identických špičkových diagnostiků. Třetí výhodou je flexibilní vnímání času — AI se nenudí, necítí únavu po 12hodinové směně a netrpí podprahovým biologickým strachem ze smrti, který by jí kresliv úsudek.
Datová zeď, energetická zeď a bariéra abstrakce
Cesta k superinteligenci podle autora ovšem nevede po hladké dálnici. První překážkou je datová zeď. Dosavadní pokrok poháněly obrovské zásoby kvalitních lidských textů — knih, studií, článků. Tyto zásoby mají dno a modely se blíží okamžiku, kdy přečtou prakticky každý užitečný kus digitalizovaného textu. Průmysl proto začíná modely krmit syntetickými daty generovanými jinými AI. Komentář cituje Sandru Wachter, profesorku z Oxfordu, podle níž to vytváří řetězové riziko: modely učící se z vlastních výstupů mohou s každou generací znásobit chyby a halucinace. Autor používá obraz manuálu opakovaně přeloženého angličtina–francouzština–japonština–angličtina — výsledek může radit „postavit nosný pilíř ze zmíchaných vajíček a utáhnout ho na 12 newtonmetrů". Tomuhle se říká kolaps modelu.
Druhou překážkou je výpočetní výkon a energie. Komentář odkazuje na odhad výzkumné skupiny Apple, podle něhož výpočetní výkon používaný k rozvoji modelů roste zhruba desetinásobně ročně (podobné údaje o 10násobném meziročním růstu efektivního výpočetního výkonu se objevují i v širší literatuře o frontier AI). Z digitální revoluce se stává fyzická stavba — nové rozvodné sítě, obří chladící systémy, masivní dodávky mědi, čipů a vzácných kovů. Cesta k superinteligenci podle autora vyžaduje průmyslovou mobilizaci v téměř nepředstavitelném měřítku, a její přesunutí na oběžnou dráhu samo o sobě není samospásné. Třetí zdí je bariéra abstrakce: model vytrénovaný výhradně na lidském vědění je uvězněn v zaběhaných šablonách a má vážný problém vytvořit skutečně nové základy — takové, kvůli kterým je nutné přepsat pravidla.
ASI jako kolektiv: superinteligence není program, je to společenství
Pokud zdi padnou, jak bude superinteligence vypadat? Komentář odmítá hollywoodskou představu jediné centrální mysli, která jednoho dne „procitne" jako HAL 9000 z 2001: Vesmírné odysey. DeepMind podle autora definuje ASI jako systém překonávající desítky skvěle koordinovaných expertů pracujících bez odpočinku v jakémkoli oboru — a dokáže zkomprimovat deset let intenzivní práce do jediného výstupu. Nemusí ovšem jít o jednu centrální mysl. Studie naznačuje, že superinteligence může vzniknout jako kolektiv: rozmanitý trh milionů specializovaných AI agentů, z nichž každý má svou expertizu a všichni vyjednávají a sdílejí řešení rychlostí, kterou lidské instituce ani nezměří.
Příklad z komentáře: chcete materiál na zachycování uhlíku. Jeden agent rozumí kvantové chemii, druhý dynamice tekutin, třetí logistice. Vymění si miliony návrhů za sekundu, dokud nevznikne dokonalý design — žádná komise, žádné schvalování rozpočtu, žádné kvartální porady o barvě tabulky. Autor uzavírá, že ASI bude nejspíš neviditelnou infrastrukturou pod povrchem civilizace: bude řídit globální logistiku na milisekundu, vyrovnávat energetické sítě, počítat klima a modelovat léky pro celé populace. Pro většinu lidí zůstane nepochopená a nezmění to, co děláte v pátek odpoledne — změní celý systém, na kterém ten pátek stojí.
AUI — actually usable intelligence: skutečný příběh dneška
Komentátor přichází s vlastním pojmem, který má podle něj smysl právě teď — AUI, actually usable intelligence, čili skutečně použitelná inteligence. Nemusí zachránit lidstvo. Stačí, když vám zachrání tři hodiny ve čtvrtek odpoledne. Otázka, která prý mění život, nezní, jestli jsme oficiálně dosáhli AGI, ale jak ten nástroj použije zdravotní sestra, aby ušetřila tři hodiny papírování za směnu; jak ho použije stavař k ověření statiky před zalitím betonu; jak ho zapne majitel obchodu, aby neskončil v insolvenci; jak s ním učitel odhalí studenta, který tiše zaostává dřív, než propadne.
Propast mezi schopnostmi technologie a jejím využitím v reálné práci je podle autora obrovská — a není technologická, ale myšlenková. Polovina lidí AI ignoruje, druhá polovina ji používá slepě a tvrdě narazí, když systém věrohodně halucinuje nesmysl. Lidé si svoji práci nepřerámovali a neumí najít místo, kam nástroj zapojit — pořád ho berou jako „chytřejší Google, který navíc umí hezky psát háčky a čárky". Tak jako současná AI nevymyslí nic skutečně nového s lidským věděním, lidské vědění zatím nedokáže vymyslet něco skutečně užitečného s umělou inteligencí.
Kopírování špičkové expertizy a otázka, kým ještě zůstaneme
Komentář se na závěr vrací k bezztrátovému kopírování. Pokud lze špičkové vědění libovolně množit a v kapse nosit kopii nejlepšího experta v jakémkoli oboru, co se stane s lidskou motivací vůbec něco užitečného vymýšlet? Přestanete se učit řemeslo a budete se učit jen zadávat úkoly? Pokud nemusíte vědět, jak položit cihlu, stačí mít představu o zdi — jste ještě tvůrcem, nebo už jen kurátorem cizích schopností? Autor tvrdí, že tohle mění definici expertizy, hodnotu vzdělávání i odkaz pro další generace. Možná to je v pořádku, možná je to evoluce k lepšímu, maličkost to ale rozhodně není.
Skutečná revoluce podle něj na filozofování nečeká: probíhá v nemocnicích, skladech, učebnách a malých kancelářích, kde někdo ve čtvrtek odpoledne přišel na způsob, jak si ušetřit dvě hodiny práce — a nikomu o tom neřekl, protože šel konečně domů včas. Lidé tvořící budoucnost přestali řešit, jestli je stroj inteligentní, a ptají se, co dokáže udělat a co naopak nezvládne. AGI je podle autora rozmazaná meta a marketingový tahák, ASI vize za masivními zdmi bez záruky výsledku. Mezi tím leží v šedé zóně skutečně použitelná inteligence — dálnice, po které už jedete a nevědomky vám zlepšuje život. Otázka zní, jestli o tom vůbec víte.
