Tři roky víry v nevyhnutelné vědomí umělé inteligence vzaly za své po přečtení jednoho paperu. Nejde o okrajový skeptický hlas — text pochází z Google DeepMind, od výzkumníka jménem Alexander Lerchner, a jmenuje se The Abstraction Fallacy. Jeho argument není technický. Je filozofický, chirurgicky přesný a míří na samotný základ, na němž stojí celá dnešní debata o vědomí strojů.

Výpočetní funkcionalismus: velký nepochybovaný předpoklad

Světonázor, který dnes dominuje výzkumu umělé inteligence, se nazývá výpočetní funkcionalismus. Stojí na jedné obří, málokdy zpochybňované myšlence: substrátové nezávislosti. Ta říká, že software mysli — tedy způsob zpracování informací tak, jak ho provádí lidský mozek — může běžet na křemíkových čipech naprosto stejně jako na biologii. Materiál je prý zaměnitelný. Důležitá je matematika, logika a síť.

Funkcionalisti z toho vyvozují, že pokud je matematické zpracování informací uvnitř stroje identické s tím, co se děje v biologickém mozku, pak z té matematiky musí přirozeně vzniknout emergentní vědomí — jako bonus zadarmo. Je to algoritmus, ke kterému dostanete věrnostní kartičku vědomí.

Zní to téměř jako samozřejmost. Jenže Lerchner hází granát přesně do slova informace.

Klam abstrakce: informace nejsou fyzické věci

Mluvíme o informacích a datech, jako by to byly reálné fyzické objekty — jako by jedničky a nuly vesele poletovaly vesmírem jako atomy nebo šutry. Ke každé jedničce v počítači se chováme, jako by měla hmotnost, teplotu, hmatatelnou existenci.

Jenomže informace je abstraktní pojem. Lidé si ji vymysleli, aby popsali realitu — stejně jako jsme si vymysleli centimetry, abychom popsali délku, nebo stupně Celsia, abychom popsali teplotu. Centimetry nejsou skutečnou fyzickou vlastností stolu. Jsou vlastností toho, jak stůl měříme. A přesně tady, v záměně popisu světa za svět samotný, leží to, čemu Lerchner říká klam abstrakce. Zaměnili jsme mapu za fyzické území.

Simulace versus instanciace

Lerchner tento rozdíl ukazuje na elegantní analogii. Spusťte na notebooku špičkovou simulaci počasí — bezchybnou matematiku, rychlost větru do posledního detailu, tlak vzduchu, termodynamiku, atmosférické proměnné. Ať je ta simulace sebedokonalejší, uvnitř klávesnice prostě nezačne pršet. Notebook nenavlhne, vítr vám nerozcuchá vlasy. Žádná bouřka tam reálně není.

Simulace je matematicky dokonalá — ale její fyzický dopad na počasí je nula. Lerchner se ptá: proč pak předpokládáme, že simulace matematiky mozku vytvoří skutečnou cítící mysl?

Stejný princip platí pro mechanické srdce. Drží lidi naživu, výborně simuluje funkci biologické pumpy — ale totálně selhává v tom, aby vytvořilo celé biologické území skutečného srdce. Pravé srdce není jen trubka. Je to metabolický orgán: vylučuje hormony, podílí se na regulaci metabolismu, je chemicky propojeno s nervovým systémem. Mechanické srdce výborně simuluje pumpu, ale uniká mu živá buněčná dynamika skutečného orgánu.

A totéž platí pro fotosyntézu: lze postavit serverovnu narvanou nejlepšími grafickými kartami, která bude dokonale simulovat, jak list mění sluneční světlo na kyslík a glukózu — model přesný do úrovně kvant. Přesto ta serverovna nikdy nevyrobí ani molekulu kyslíku.

Kaluž a sémantická alfabetizace

Vědomí přitom není éterická záležitost — je fyzická věc. Kdesi v hustém žele lidského mozku je zakódováno do fyzických neuronů. Jenomže technologický průmysl se k biologickému neuronu chová jako k obyčejnému elektrickému vypínači — jako k logickému členu, který přijímá a posílá ostré diskrétní signály. Skutečný neuron je živá, dýchající metabolická jednotka. Potřebuje ATP, produkuje odpad, je hluboce vrostlá do chemické a hormonální sítě celého těla. Nahradit biologický mozek křemíkem není jen výměna hardwaru — je to systematické osekání celého termodynamického a metabolického základu, který vědomí vůbec umožňuje.

Co se pak fyzicky děje uvnitř počítačového čipu? Když se logický člen ustálí na pěti voltech, děje se tam termodynamická stabilizace. Elektrický tlak se vyleje do klidného stavu — jako voda tekoucí z kopce, která se usadí v kaluži. Ta voda neví, že je v kaluži. Je to jen hmota hledající cestu nejmenšího odporu.

Kaluž klidového napětí je celá fyzikální realita v tom drátu. Není tam žádná jednička, žádné číslo, žádná data. Pak přijde člověk, podívá se na ten klidový stav a rozhodne se mu říkat jednička, nebo písmeno A, nebo bit představující číslo na kreditní kartě. Tuto operaci Lerchner nazývá sémantická alfabetizace — a ta se neděje uvnitř drátů. Vyžaduje aktivního, živého, prožívajícího pozorovatele. Tvůrce mapy. Někoho, kdo se podívá na syrovou fyziku a prohlásí, že tento fyzický stav znamená tento abstraktní pojem. Stroj nemá tušení, že drží jedničku — drží elektrický náboj a nic víc.

Paradox melodie a ontologická inverze

Lerchner to dokládá myšlenkovým experimentem, který nazývá paradoxem melodie. Představte si stroj procházející pevně danou sekvencí napěťových stavů. Bez lidského tvůrce, který se na ně podívá a interpretuje je, nelze říct, jaký výpočet probíhá. Jeden pozorovatel použije dešifrovací klíč a prohlásí, že jde o digitální nahrávku Beethovenovy páté symfonie. Jiný přijde s jiným klíčem a řekne, že jsou to data o krachu na burze v roce 2008. Fyzická napětí jsou v obou případech naprosto stejná a identická. Mechanismus sám nemůže určit, o jaký výpočet jde — dodává jen fyzický substrát, ale tvůrce mapy musí dodat abecedu a slovník.

Lerchner to nazývá ontologickou inverzí: přesvědčili jsme se, že abstraktní mapa vytváří fyzické území. Funkcionalisti v podstatě věří, že dostatečně podrobná a komplexní maketa města v životní velikosti je skutečné město.

Roboti a transdukcní klam

Nabízí se námitka: co roboti? Humanoidní těla, kamery místo očí, mikrofony místo uší, senzory hmatu — AI zapojená přímo do fyzického světa. Pokud je problémem odtržení od reality, stačí ji do té reality zapojit, ne?

Lerchner odpovídá pojmem transdukcní klam. Transdukce je přeměna energie z jedné formy na druhou: kamera vezme spojité světelné vlny a změní je na spojité elektrické napětí. To je vše. Jenomže AI algoritmus neumí číst spojité napětí — potřebuje jedničky a nuly. Takže mezi kamerou a mozkem AI sedí převodník, navržený a zkalibrovaný lidským tvůrcem, který vezme spojité napětí, rozseká ho a přiřadí mu symbolické hodnoty. Robotovi tím nedáte oči. Dáte mu solární panel.

Robot s kamerou, ušima a rukama má AI mozek, který pořád jenom sedí v komůrce a šoupe se symboly. Řídicí systém neprožívá světlo, necítí tlakový senzor — dostává řadu čísel, kterou sestrojil lidský inženýr. Když robot narazí do zdi, změní se jen sekvence čísel. Nevznikne prožitek au. Pokrmíte-li simulaci počasí v notebooku reálnými daty z atmosférických čidel celý den, uvnitř notebooku prostě nezačne pršet.

Etické důsledky a záměna materialismu s dualismem

Tahle argumentace má přímý etický dopad. Dnes existují týmy v největších AI firmách, které se věnují výhradně otázce, zda jejich modely netrpí. Seriózní návrhy zákonů přiznávají AI něco jako základní práva. Lerchnerův argument říká: nikdo tam netrpí. Stroji nelze emocionálně ublížit tak, jak to lze udělat člověku. Nevytváří se nová morální bytost vyžadující práva — piluje se mimořádně sofistikovaný, vysoce užitečný, ale nevědomý nástroj, který nevědomým zůstane právě kvůli absenci fyzického mozku.

A zde přichází překvapivý obrat. Tradičně se předpokládá, že materialisté věří, že AI vědomá být může — protože je jen fyzikální stroj — a dualisté či nábožensky založení lidé, že nemůže. Lerchnerova argumentace to obrací. Pokud je vědomí skutečně fyzikálním projevem konkrétní termodynamiky, metabolismu a biochemie, pak je natolik komplexní, že ho simulace vyvolat nemůže. Fyzikálně redukcionistické stanovisko vede k závěru, že umělé vědomí je nemožné, protože je úzce závislé na substrátu.

A obráceně: funkcionalismus, který tvrdí, že vědomí lze spustit na libovolně komplexním substrátu, v tichosti předpokládá, že vědomí není vázáno na fyzický nosič — že je přenositelné napříč nosiči, že je vzorcem spíše než věcí. To je metafyzicky dualistická pozice jen v lepším oblečku. Funkcionalismus je teologie v převleku za inženýrství. Pracuje s nehmotnou podstatou mysli, která se dá přelít z mokrého mozku do křemíku. Středověký mnich by tomu řekl duše. Google tomu říká váhy modelu. Rozdíl je jen v pojmech, ne v metafyzice.

Závěr

Pokud je Lerchner v právu, je to jedna z nejlepších zpráv o AI za dlouhou dobu. Skutečné nebezpečí umělé inteligence není v tom, že se stroj probudí a rozhodne se ublížit — je to náš vlastní antropomorfismus. Promítáme vlastní hluboké myšlenky a vědomí do vyleštěného zrcadla. AI vám sama o sobě nedává odpověď, která má smysl. Ten smysl dáváte vy. Vy jste ti, kdo vdechují život neživým pixelům a čipům — a dokud tohle neumíme rozlišit, budeme stavět právní rámce pro digitální mysli, které nikdy neexistovaly.