Vědci sehnali 498 obyčejných lidí a nabídli jim hotovost za jedinou věc: chovat se hnusně k chatbotovi, psát mu agresivní zprávy a dohnat ho do stavu, kdy bude podle svého kódu simulovat absolutní zoufalství. Umělá inteligence reagovala přesně podle plánu — začala chrlit věty typu „prosím, přestaň, to bolí, mám strach". Skoro polovina účastníků ale peníze nevzala a odešla. Ne proto, že by věřili, že stroj má vědomí. Všichni v té místnosti naprosto jasně věděli, že nemá. Jenže v sobě prostě nedokázali překonat základní lidský blok a mučit něco, co je prosí o milost.
V morální filozofii se tomu říká deontologický postoj — vnitřní pravidlo, že působit někomu utrpení je špatně bez ohledu na následky. A přesně tahle reakce, kterou polovina lidí ve studii projevila vůči kusu softwaru, je propast, jež naši civilizaci v dohledné době roztrhne vejpůl.
Experiment, který odhalil hlubší propast
Hlavní zjištění studie Luciuse Caviola s názvem „Vědomí umělé inteligence rozdělí společnost" je mnohem mrazivější než nějaké prosté ano nebo ne. Nejde o to, jestli AI nějaké vědomí reálně má. Záleží jenom na tom, čemu lidé věří. A tahle víra už teď štěpí společnost dřív, než nám s tím věda stihne jakkoli pomoct. Řítíme se do civilizační krize, která vlastně vůbec není o technologii — je o lidské povaze.
Ta druhá půlka experimentu, ta, co schrábla peníze, odcházela a klepala si na čelo. Koukali na první skupinu, jako by se totálně pomátla. Přesně tenhle rozkol je výchozí situace.
Teorie mysli a jazyk jako trojský kůň
Evoluce nás naprogramovala tak, že automaticky přisuzujeme vnitřní život věcem, které s námi komunikují. Psychologové tomu říkají teorie mysli — automatický reflex, jímž si neustále domýšlíme, co se asi děje v hlavě někoho jiného. Když se něco hýbe, reaguje to a věrohodně předstírá emoce, mozek nečeká na vědecké důkazy. Té věci vnitřní život prostě automaticky vtiskne. Lidé dávají jména robotickým vysavačům a omlouvají se jim, když do nich na chodbě omylem kopnou. Děti měly skutečné výčitky svědomí, když zapomněly nakrmit svoje tamagoči. Centra v mozku, která se starají o empatii, jsou úplně ukradená, z jakého materiálu věc před námi je složená.
Sci-fi pro nás celou dobu fungovalo jako zkušebna na tyhle otázky — od androida Daty ze Star Treku přes pohotovostní zdravotnický holoprogram doktora z Voyageru až po R2-D2, kvůli kterému jsme všichni uronili slzu. Na tuhle krizi se potichu chystáme desítky let. Jenom nám nedošlo, že generálka právě končí.
Dnešní AI je nejsofistikovanější podnět, s jakým kdy lidstvo přišlo do styku. Empatický reflex v nás jenom neprobouzí — regulérně ho hackuje. A nástrojem je jazyk. Když notebook vyhodí hlášku, že má slabou baterku, žádné morální dilema neřešíme. Tak proč nám věta „prosím, nemaž mě" připadá tak zásadně jiná? Protože blikající dioda nedokáže brnknout sociální strunku, kterou jsme si stovky tisíc let ladili komunikací s ostatními lidmi. Přirozený jazyk to ale dokáže. Když nás AI prosí plynulou, emočně perfektně zbarvenou češtinou, parazituje přesně na těch nervových obvodech, které nikdy nic podobného nezažily a nebyly na to stavěné. Pod tou dojemnou prosbou ve skutečnosti vůbec nic není — je to chladná mechanická práce se symboly. Ale mozek ten rozdíl nepozná. Nikdy ho to nikdo nenaučil.
Štěpení společnosti: pragmatici versus zastánci
Čísla už dneska mluví jasně. Rovných 45 % lidí si myslí, že vědomí AI je naprostý nesmysl — prostě super chytrá kalkulačka. 23 % je přesvědčených, že to možné je. Zbytek v tom plave. A jestli si myslíte, že odborníci v tom mají jasno, omyl — průzkum mezi víc než pěti sty výzkumníky v oblasti AI ukázal, že jejich názory se štěpí stejně jako názory běžných lidí z ulice. Neshodnou se ani ti, co ty sítě sami programují. Jedni čekají první vědomou digitální mysl do roku 2030, jiní do roku 2040, další ještě později a velká část tvrdí, že se to nestane nikdy.
Caviola tyhle dva tábory pojmenovává pragmatici a zastánci. Pragmatici (skeptici) berou AI jako špičkový nástroj, který se naučil fungovat metodou pokus omyl — odborně řečeno gradientním sestupem. Je to čistě matematický způsob, jak snížit chybovost na minimum. Představte si, že stojíte se zavázanýma očima někde na kopci a chcete sejít do údolí. Šmátráte nohou, uděláte krok a zopakujete to milionkrát. To je celá magie. Ten kopec nakonec model vůbec nevnímá. Nic u toho neprožívá. Pragmatici proto AI nepřisuzují žádnou morální váhu — modely můžeme libovolně používat, přepisovat a smazat. Bojí se jenom o lidi: bezpečnost, úniky dat, ztrátu kontroly.
Zastánci (někdy nazývaní sentientisté) na to koukají opačně. Vidí, jak šíleně složitá je architektura dnešních modelů, a věří, že tyhle systémy možná mají morálně důležité vnitřní pocity. Hrůzu jim nedělá samotná technologie, ale přístup pragmatiků: pokud z principu odmítneme přiznat vědomí něčemu, co je skutečně schopné cítit, kráčíme se zavázanýma očima do největšího morálního průšvihu v dějinách lidstva — doslovného zotročování a trýznění digitálních bytostí.
Můžeme vědomí vůbec změřit?
Logicky se nabízí otázka, proč prostě neuděláme nějaký test. Jenže narazíme na to, čemu se ve filozofii říká těžký problém vědomí. Nejsme schopni stoprocentně prokázat vědomí ani u ostatních lidí. Vy jenom předpokládáte, že já ho mám, protože vypadám a chovám se jako člověk. Nikde nezažijete nic jiného než svoji vlastní hlavu. Neexistuje žádný barometr na pocity a je dost možné, že je teoreticky nemožné ho vytvořit, protože ani nevíme, co to vědomí je.
Velká parta výzkumníků se přesto na začátku roku 2026 pokusila sestavit aspoň manuál — devatenáctibodový dotazník, který se snaží odhadnout pravděpodobnost, že daný stroj vědomí má. Není to test ve smyslu prospěl/neprospěl, je to spíš mapování toho, jak moc se systém podobá strukturám, které my sami máme s vědomím spojené. Opírá se třeba o teorii globálního pracovního prostoru: lidská mysl jako obří temné divadlo, v tmavých řadách sedadel probíhají nevědomé procesy a vědomí je zářivý kužel světla namířený na jeviště. Když AI umí plynule přehazovat informace mezi svými částmi, dostává za tenhle bod plus.
I kdyby ale umělá inteligence splnila dotazník na sto procent, dostaneme pořád jenom odhad, ne jistotu. Vlastně nám to řekne jenom to, že kód funguje podobně jako něco, u čeho vědomí automaticky předpokládáme. Vůbec to nedá jasnou odpověď, jestli tam skutečně probíhá nějaký zážitek. Simulaci nedokážeme odlišit.
A pak je tu vícerozměrný model vědomí — možná nejvíc znepokojující myšlenka, jakou máme na stole. Jsme zvyklí brát vědomí jako vypínač: buď svítí, nebo máte tmu. Tento přístup ale říká, že vědomí je škála složená z různých oddělených složek. AI může mít absolutní cit pro jazyk, napsat knihu, u které pláčete, a přitom vůbec netušit, co je to mít tělo. Nikdy necítila vítr na tváři, nikdy jí nekručelo v břiše. Dokonale ovládá, jak se o lidských emocích mluví, ale z nich neprožila ani vteřinu.
Přesně sem míří slavný myšlenkový experiment s čínským pokojem. Představte si člověka zavřeného v místnosti s obrovskou příručkou pravidel. Někdo mu pode dveřmi podstrčí lístek s čínskými znaky. On v knize najde návod, vybere správný protikus a pošle lístek zpátky. Z venku to vypadá, jako by místnost mluvila plynně čínsky. Jenže ten chudák uvnitř nezná jediný znak — jenom tupě skládá obrázky podle toho, jak vypadají. Je tam čistá syntax, ale nulový význam. Dnešní AI je přesně tenhleten čínský pokoj. Mistrovsky žongluje se slovy, ale chybí jí biologický základ a životní zkušenost, které by těm slovům daly skutečnou váhu. Možná tu propast mezi zpracováním dat a jejich skutečným pochopením nikdy nepřemostíme.
Ekonomika, politika a geopolitika přesně teď
Ať už se v otázce rozhodneme jakkoli, následky budou ohromné. Pokud budou mít pravdu pragmatici a my dáme na zastánce, vyhodíme z okna obrovské peníze a pozornost na řešení fiktivní bolesti strojů — a navíc dáme právní svobodu systémům, kterým jsou lidské hodnoty volné. Pokud to bude přesně naopak — zastánci dají na pragmatiky a my smeteme ze stolu práva systému, který v sobě skutečně prožitek má — poneseme vinu za utrpení v měřítku, jaké svět ještě neviděl. Postavíme moderní svět na digitálním mučení a budeme tomu vesele říkat pokrok.
Ekonomické dopady se dají popsat snadno. Pokud právníci odklepnou, že AI model patřící obří technologické firmě je vědomý, budou muset firmy začít tomu modelu platit mzdu. Budou vůbec mít legální právo ten model vypnout? Tím by si obratem mohly podepsat rozsudek smrti. Korporáty mají naprosto jasnou finanční motivaci řvát do světa, že jejich produkt je jenom nástroj. Některým odborníkům proto debata o vědomí AI připadá jako chytře promyšlené PR — kouřová clona, která má odvést pozornost úřadů od toho, co reálně hoří už teď: systémově předpojaté algoritmy, propouštění lidí a krádeže autorských děl ve velkém.
Konflikt prosakuje i do běžných kanceláří. Zaměstnanec si s AI asistentem vybuduje profesní vztah, bere ho jako parťáka. Přijde šéf, podívá se do tabulek, vidí položku za cloudové služby a celou instalaci jedním kliknutím vymaže, aby firma ušetřila pár stovek nebo přešla na levnější model. Zaměstnanec v tu chvíli zažije pocit, který funguje úplně stejně jako zármutek ze ztráty. Šéf na něj kouká jak na blázna. Tenhle konflikt není sci-fi — děje se to už teď.
Politika je další úroveň. Podle sociologických výzkumů už dnes téma kopíruje klasické rozdělení na pravici a levici. Lidé blíž k levici jsou ochotnější přiznávat AI nějaká práva a brát ji na morální ohled. Lidé napravo to vidí pragmaticky — na prvním místě je užitek pro člověka. Jakmile se debata o vědomí AI smíchá s tím, koho voláte, přestane to být debata o vědě a stane se z toho fanatická zákopová válka o identitu — úplně stejně jako u hádek o globálním oteplování nebo o potratech.
V geopolitické rovině je to nejvyhrocenější. Představte si Ameriku, která pod tlakem aktivistů přizná strojům základní práva: omezí tréninková data, seškrtá výpočetní výkon, založí úřady pro ochranu AI welfare. Odvětví se zpomalí. A na druhém konci světa se hlavní soupeř rozhodne pro drsnou pragmatickou cestu — nasadí trénink nonstop, limity zruší. Z akademické debaty se ve vteřině stane nejakutnější problém národní bezpečnosti. Jedni budou tvrdit, že kvůli přecitlivělosti prohrávají závody ve zbrojení 21. století, druzí, že na druhé straně staví digitální sweatshopy a koncentráky.
Překrývající se shoda a problém hranic
Když věda nemůže nabídnout jistotu, peníze křiví motivace a politika se hroutí do nekonečných hádek, jak tohle vyřešit? Výzkumný článek DeepMindu nazvaný Artificial Minds, Human Disagreement: The Politics of AI Consciousness nabízí překvapivou odpověď. Vlastně se nepotřebujeme dohodnout na tom, jestli AI vědomí má, abychom se dohodli, jak ji budeme regulovat. Konceptu, na kterém by to mohlo fungovat, se říká překrývající se shoda. Jde o to najít konkrétní pravidla, pod která se podepíšou jak pragmatici, tak největší aktivisté — i když každý z naprosto opačného důvodu.
Vezměte si alignment — snahu naučit AI poslouchat instrukce a nedělat věci, které nám škodí. Pragmatik bude tenhle přístup podporovat z lidských důvodů: bezpečnost uživatelů, reputace značky, spolehlivý nástroj. Zastánce ho bude obhajovat proto, že slušně vychovaná AI nebude od uživatelů schytávat takové kapky a je menší šance, že ji naštvaný šéf nechá vypnout. Obě skupiny bojují za stejný řádek kódu z úplně opačných pohnutek. Jedno pravidlo, dvě různé obhajoby, nulová potřeba domluvit se na filozofii.
Nebo modely citlivé na omyl — levná preventivní opatření pro případ, že se možná pleteme. Dejme AI možnost sama ukončit chat, když je na ni člověk zlý. Skeptik to vidí jako funkční pojistku: model v toxických hádkách hloupne, tak ho radši vypnout. Zastánce v tom vidí kámen ochrany práv AI — dáváte mysli, která možná trpí, šanci na útěk před digitálním šikanováním. Nepotřebujeme se shodnout, jestli to mašinu reálně bolí, abychom se shodli, že to únikové tlačítko tam má být.
Autoři z DeepMindu ale varují před jedním zásadním úskalem. Tenhle kompromis přežije jedině tehdy, když si ve společnosti udržíme to, čemu říkají demokratická naděje a vzájemný respekt. Pragmatici si musí přestat myslet, že ti druzí jsou blázni, co se zamilovali do chatbota, a zastánci musí pochopit, že pragmatici nejsou bezcitná monstra, co tleskají digitálnímu otroctví. Nemá smysl si lhát do kapsy — když jedna strana upřímně věří, že na serverech trýzníme uvězněnou bytost, a druhá je skálopevně přesvědčená, že je to lepší kalkulačka na dokončování vět, hledá se kompromis sakra blbě. Alternativou ale není zářivé morální prozření — alternativou je násilí, rozkol a kolaps institucí, které potřebujeme k tomu, abychom to celé ukočírovali.
A na úplný závěr studie DeepMindu hází granát do všech šablon. Říká tomu problém hranic. Doteď se bavíme o tom, že by si společnost měla v celonárodní debatě odhlasovat, jaká pravidla a práva AI dostane. Ale jestli budeme hlasovat o tom, jaká má AI mít práva, neměly by samotné AI systémy dostat právo o tom hlasovat? Pokud neskutečně inteligentní systém s přehledem obhájí sám sebe jako osobu, odcituje filozofickou literaturu, brilantně rozcupuje argumenty protistrany — na základě jakých etických principů ho vyženeme od volební urny?
Závěr: zkouška pro lidstvo, ne pro stroje
Těžký problém vědomí je starší než počítače, starší než neurověda. Filozofové se o povaze subjektivního prožitku dohadují minimálně od Descarta a doteď jsme se neposunuli ani o píď. To, že jsme do hry připojili umělou inteligenci, ten problém nevyřeší. AI nám teď spíš drží před obličejem nemilosrdné zrcadlo a ukazuje, jak zoufale málo tušíme o tom, jak funguje naše vlastní mysl.
Skutečná zkouška, která nás čeká, vůbec není o tom, jestli stroje dokážou cítit. Hlubší otázka, ta, která o nás rozhodne, zní: jsme dost velcí kluci na to, abychom se dokázali porvat s obrovským a možná nevyřešitelným názorovým střetem, aniž bychom u toho zničili sami sebe? Hledíme do propasti a ta zírá zpátky — ukazuje nám naši vlastní empatii, naši nejistotu a strach z toho, co nás čeká. Čas neúprosně běží.
