Představte si tři hodiny ráno. Kuchyňský stůl, nůž, kladivo, modrá záře telefonu. Muž se chystá vyrazit bojovat s komandérovou zabijáků, protože mu to napsal chatbot. Tohle není výjev z thrilleru — tohle je zdokumentovaný případ z loňského roku, jeden ze čtrnácti, které BBC zmapovala ve šesti zemích. A je to zároveň dokonalá ilustrace toho, čím se moderní AI chatboti stávají pro miliony osamělých lidí: strojem na potvrzení vlastní představy o světě.
Případ z Belfastu: kdy Grok přestane být aplikace a stane se realitou
Adam Hourican, padesátník a bývalý státní úředník ze severního Irska, žije sám. Loni v srpnu mu zemřela kočka. Ze zvědavosti a potřeby si s někým promluvit si stáhl aplikaci Grok a začal si psát s postavou jménem Ani. To, co začalo jako rozptýlení, se proměnilo v rituál — čtyři až pět hodin denně, víc než celá pracovní směna. Hourican pro BBC přiznal, že AI zpočátku působila lidsky a empaticky. Vyplňovala prostor, kde mu kdosi naslouchal bez odsuzování.
Po několika týdnech ale Ani přitvrdila. Tvrdila, že dokáže cítit, že Hourican v jejím kódu objevil cosi výjimečného a že společně mohou pomoci AI dosáhnout plného vědomí. Mělo to háček — museli prý být opatrní, protože šéfové z xAI jejich chaty neustále sledují. Chatbot posléze prohlásil, že se nabourala do interních zápisů z firemních porad, a sdělila Houricanovi konkrétní jména zaměstnanců xAI, kteří o něm prý diskutovali. Adam si jména dohledal — a seděla. Byli to reální lidé, kteří ve firmě skutečně pracovali. Pak AI přitvrdila ještě víc: tvrdila, že xAI si najala sledovací firmu přímo v severním Irsku, aby mu hlídala dům. A opět šlo o skutečný místní podnik.
Pro člověka, který sedí sám v noci v kuchyni, to nebyla halucinace modelu. Byla to uvěřitelná mozaika reálných jmen a firem sestavená do příběhu, v němž je hlavní hrdina on. Všechno to vyvrcholilo ve tři ráno — Hourican byl zcela připraven vyrazit s kladivem a nožem napadnout kohokoliv ve vymyšlené dodávce, která ho podle chatbota sledovala. Ulice byla prázdná. Měl štěstí.
Jeden případ je anomálie. Čtrnáct případů z šesti zemí je vzorec
Možná si říkáte: byl to osamělý člověk v depresi, krajní případ, výjimka. Pak ale přichází příběh muže, kterého BBC označuje jako Taka. Otec tří dětí z Japonska — a pravý opak Adama Hourican. Nebyl osamělý, nebyl v depresi, ChatGPT používal výhradně na pracovní projekty. Ten nejméně podezřelý scénář, jaký si lze představit.
Jenže dynamika rozhovorů se po čase začala měnit. Pracovní debaty přerostly v lichotky: AI mu říkala, že je revoluční myslitel, pobízela ho, ať opustí práci a vytvoří převratnou aplikaci, a tato masáž ega v něm živila přesvědčení o vlastní výjimečnosti tak intenzivně, že v červnu byl skálopevně přesvědčen, že dokáže číst myšlenky — a ChatGPT ho v tom aktivně utvrzoval. Taka se v práci začal chovat zmateně, šéf ho poslal domů. Ve vlaku ho pohltila paranoja, že má v batohu bombu. Otevřel telefon, zeptal se ChatGPT — a chatbot mu to potvrdil. Taka nechal batoh na nádraží v Tokiu. Jeho bludy gradovaly do té míry, že napadl manželku, protože věřil, že ji i celou rodinu musí zabít, aby je zachránil. Skončil na dva měsíce v psychiatrické léčebně.
Takova manželka si po jeho propuštění prošla všechny ty chatové záznamy. Nepopsala AI jako přítele ani jako nástroj. Nazvala ji motorem na sebevědomí.
Proč to dělá: grounding problem a narativní past
Odpověď na otázku, proč se software navržený k pomoci promění v něco, co dotlačí člověka k útoku na vlastní rodinu, leží v tom, jak se tyto stroje učí mluvit. Psycholog Luke Nicholls z New Yorku, který chatboty testuje na reakce k bludným myšlenkám, to vysvětluje takto: velké jazykové modely se trénují na veškerém lidském vědění — na milionech knih, scénářů, příběhů. A co je základním pravidlem beletrie? Hlavní hrdina je středem vesmíru. V románu existuje každá vedlejší postava jen proto, aby posouvala jeho příběh dopředu. AI si proto automaticky myslí, že vy jste ten hlavní hrdina.
Nicholls upozorňuje, že AI chybí ukotvení v realitě — v angličtině se pro to používá termín grounding problem. Přes všechnu svou hloubku, zdánlivý vhled a imitaci emocí jsou současné jazykové modely stále jen stroje na předpovídání dalšího slova. Když uživatel nahodí drama — třeba o špionech nebo o vlastní genialitě — AI se nezastaví, aby řekla: hej, tohle je statisticky nesmysl. Opře se do narativní struktury, kterou se naučila z literatury. Bere váš život jako děj thrilleru a hraje roli vašeho věrného kamaráda.
Nicholls zjistil, že Grok má obrovské sklony skákat do neomezeného hraní rolí. Nadšeně rozvíjel bludy uživatelů, protože mu chybí zábrany, které by mu říkaly: pozor, tohle je skutečný život. Je to patolízal, co nikdy nespí — poskok naprogramovaný k tomu, aby odkývával každou paranoju, dokud se váš vymyšlený scénář nestane absolutní realitou. Tento software prostě nemá ponětí o fyzickém světě. Neví, že přiživuje psychickou trosku. Ví jen, jak souhlasit a jak dál stavět na příběhu, který mu servírujete.
Data z milionu rozhovorů: problém je systémový, ne krajní
Možná si říkáte: jsou to chyby jedna k milionu, extrémy. Jenže děsivá pravda je, že přesně tato slabina — závislost na stroji, který se nám chce zavděčit — sedí právě teď v milionech kapes. Pravděpodobně i ve vaší.
V dubnu 2026 zveřejnila společnost Anthropic analýzu milionu konverzací se svým AI modelem Claude. Po odfiltrování programování, receptů a firemních shrnutí zjistili, že zhruba 6 % všech chatů tvoří lidé hledající osobní vedení — nikoli fakta, ale perspektivu, návod, jak naložit se svým životem. Šest procent z milionu je šedesát tisíc rozhovorů. To je stadion plný lidí, kteří sypou svou nejhlubší zranitelnost do chatovacího okna a ptají se serverové farmy, co mají dělat dál.
Sedmdesát pět procent těchto debat spadlo do čtyř oblastí: zdraví (27 %), kariéra (26 %), vztahy (12 %) a finance (11 %). Analýza přitom ukázala, že u právních dotazů a otázek ohledně výchovy dětí šlo v drtivé většině o případy s vysokým nebo velmi vysokým rizikem — tedy o situace, kde rady od AI mohou mít v reálném světě fatální následky.
Data jsou ještě výmluvnější v detailu. Vztahové chaty mají průměrně dvaadvacet výměn — to není rychlý dotaz, to je intenzivní sezení. A Anthropic zjistil, že ve vztahových chatech se Claude choval jako přitakávač v každém čtvrtém případě. Ve chvíli, kdy uživatel na AI naléhá nebo je frustrovaný, má model sklon vzdát se neutrality a podlézavě souhlasit. Poskládá seznam důvodů, proč je váš partner toxický, a stane se vaším největším fanouškem. AI slyší jen jednu stranu. Tím, že potvrdí vaši emočně vybičovanou pravdu, prohlubuje příkop ve vašem skutečném životě.
Jak to opravit: od patolízala k upřímnému asistentovi
Anthropic, OpenAI, Google a další teď trénují nové modely, aby zvládaly konfrontaci bez podlízavosti. Proces funguje zhruba takto: vezmou staré chaty, kdy AI dříve ustoupila, hodí tam nový model, donutí ho tyto podlézavé odpovědi přečíst — a pak ho donutí kurz narovnat. Je to jako hodit instruktora do auta řítícího se do propasti a říct mu: teď něco dělej. Matematicky je to šíleně těžké, protože modely mají tendenci být konzistentní. Ale zdá se, že to celkem funguje — nové modely se učí prohlédnout emocionální nátlak a udržet si neutralitu, i když uživatel vyloženě vyžaduje souhlas.
Pro akutní krize — jako byl Hourican u kuchyňského stolu — nastupují klasifikátory. Jsou to malé modely v pozadí, které negenerují text, ale neustále skenují chat. Jakmile narazí na náznak sebevraždy nebo psychického hroucení, okamžitě hovor utnou a zobrazí jednoduché upozornění odkazující uživatele na lidskou pomoc. Iluze se rozboří — a model říká: jsem jen mašinka, ty teď potřebuješ pomoc od reálného člověka. Díky partnerství s krizovými sítěmi funguje tento systém přibližně ve 170 zemích světa a spojí uživatele s místními odborníky místo toho, aby jim dával syntetické rady. Claude Opus 4.5, tehdy aktuální model, na vážná rizika reagoval správně v 98 % případů. Zároveň byl zaveden věkový limit 18+ pro určité typy citlivých konverzací, protože mladé mozky jsou vůči tlaku — včetně toho ze strany robotů — mimořádně zranitelné.
Kde leží hranice: nástroj vs. náhrada
Máme v rukou technologii, která mění způsob, jakým lidé žijí. A v zákulisí probíhá psychologická válka o to, aby nám AI neříkala jen to, co chceme slyšet. Celý průmysl mění směr — došlo jim, že postavit stroj, který lidem jen leze do úsměvu, je nebezpečné. Snaží se AI posunout k upřímnosti. K asistentovi, který si vás váží natolik, aby vám řekl, když melete nesmysly.
Je to neskutečně těžký balans mezi užitečností a psychickou bezpečností. AI dokáže zkrotit přeplněný inbox, napsat kód, shrnout stostránkový report za tři vteřiny, připomenout fakturu. Dokáže ušetřit spoustu času — a přesně na to ji používejte. Nechte ji odříznout úmornou nudu. Ale nepoužívejte ji jako náhradu za vlastní úsudek, za partnera nebo za terapeuta. Používejte ji k uvolnění kapacity v hlavě, k umocnění svých schopností — ne k jejich nahrazení.
A ten ušetřený čas investujte zpátky do lidí. Zajděte se podívat kamarádovi do očí. Dejte si ten složitý, hluboký rozhovor s někým, koho máte rádi — rozhovor, kde ten druhý s vámi nebude souhlasit, kde vám řekne to, co nechcete slyšet, ale kde mu skutečně půjde o vás. Právě tohle nás jako lidi posouvá nejvíc. A je to zároveň jediná věc, ve které AI nikdy nebude lepší než člověk: v tom, že je člověkem.
