Umělá inteligence umí jednu věc, kterou dosud nezvládla žádná technologie: přemýšlet za člověka. Kdo nemusí přemýšlet nad prací, úkolem ani vlastním životem, zpohodlní. Přestane cvičit mysl, ztrácí dovednosti, které měl, a hloupne. Netýká se to všech, ale možná mnohem většího počtu lidí, než si chceme připustit. Existuje však vize, která by tento vývoj mohla vrátit na správnou kolej. Jmenuje se kognitivní symbiont a má být nástupcem dnešních AI agentů.
Pohodlí, které otupuje mysl
Dnešní agenti dokážou udělat většinu práce. Čím víc jí ale odvedou, tím méně je při ní člověk sám potřeba – a tím méně se učí. Právě tady začíná problém, na který koncept kognitivního symbionta odpovídá: AI by neměla člověka nahrazovat, ale zesilovat.
Kognitivní symbiont a kognitivní mezera
Kognitivní symbiont je v jádru představa neustále přítomného, proaktivního agenta, který nesedí jen v telefonu, ale ve chvíli potřeby nabídne jakoukoli cestou přesně to, co pomůže. Myšlenku popsal Hao Fei z Oxfordské univerzity. Chce vyřešit situace, kdy lidé zapomínají, co dřív věděli, nechápou, na co se právě dívají, nemohou najít správná slova nebo stojí před těžkým rozhodnutím, aniž si vybaví vlastní dřívější zkušenosti.
U ChatGPT nebo Gemini dojde člověk s asistencí AI často k lepšímu řešení než bez ní. V reálném světě ji ale nemá po ruce tak rychle, jak by potřeboval, nebo mu nevrátí přesně to, co v danou chvíli potřebuje. Rozdílu mezi člověkem s umělou inteligencí a člověkem bez ní se říká kognitivní mezera. Symbiont ji má proaktivní asistencí co nejvíc zmenšit – a zároveň pomáhat člověku rozvíjet se, aby nehloupnul.
Smysly: brýle, prsten a mikrofon
Prvním předpokladem je vnímat svět a interakce člověka pomocí nejrůznějších senzorů. Část z nich už dnes existuje: chytré brýle s kamerou, aby AI viděla totéž co uživatel, chytrý prsten, který sleduje tep a pomůže odhadnout míru stresu, mikrofon zachycující dění a hluk kolem. Zpátky může AI promlouvat reproduktory v brýlích nebo sluchátky.
Klíčové je, že na symbionta se nečeká, až dostane pokyn. Z toho, co právě vnímá, sám odhadne, co by člověk mohl potřebovat, a nabídne to.
Paměť na celý život
Druhým prvkem je celoživotní správa osobního kontextu a znalostí. Co agent vidí a slyší, ukládá a třídí do tří vrstev: živý kontext (co se děje teď nebo v posledních minutách), pracovní stav (dění kolem určité činnosti v řádu dnů až týdnů) a trvalé znalosti uložené dlouhodobě.
Základ už znají uživatelé dnešních osobních agentů. Ti si o člověku budují znalostní databázi, postupně ji upravují a učí se z ní. Když se po půl roce ozve někdo, s kým se něco řešilo, agent má předchozí komunikaci v paměti. Když se k námětu probíranému na procházce člověk vrátí po třech týdnech, agent ví, o čem byla řeč a jaká studie či kniha se k tématu hodila.
Symbiont by ale šel dál. Při procházce knihkupectvím by díky kameře poznal knihu, kterou si člověk chtěl přečíst, a sám by na ni upozornil. Na jednu stranu je to děsivé, na druhou docela sympatické. Jenže co člověk mine, většinou nebylo tak důležité – a když bylo, zvládne to příště. Taková pomoc tedy není nezbytná, i když v některých situacích by se hodila. Riziko je jinde: co se stane, až o AI člověk přijde? Kdo si zvykne na neustálé připomínání, může bez něj zvládat věci mnohem hůř. Smyslem symbionta má přitom být, aby se člověk stal nejlepší možnou verzí sebe sama a zpracovával věci lépe než bez něj.
Model lidské mysli
Třetím prvkem je hluboké porozumění člověku a model jeho mysli. Nejde jen o rozbor toho, co dělá. Už dnešní agenti z dat, která dostanou, dobře poznají, jak uživatel přemýšlí, jakou formu informací má rád, co ho zajímá a kdy se čemu chce věnovat.
Symbiont má mysl modelovat dvěma cestami. Jednak pozoruje chování, fyziologii a prostředí, jednak bere v potaz vlastní výpovědi člověka, takzvaný self-reporting: co si řekne, zašeptá, na co v rozhovoru upozorní, kde ztrácí pozornost. Z toho si má skládat obraz aktuální kognitivní zátěže, pozornosti, emocí i dlouhodobých cílů a poznat, kdy je jeho představa zastaralá nebo se odchyluje od reality.
Lidé totiž nejsou pokaždé stejní. Jednou člověka za volantem nerozhodí ani pomalý řidič vpředu, jindy ho vyvede z míry cokoli. Dnešní agenti s tím pracují jen omezeně – podle kvality spánku třeba upraví tréninkový plán, ale ne proaktivně. Symbiont by v obchodě vyhodnotil stav člověka a doporučil tabulku čokolády, protože mu udělá dobře, nebo by naopak varoval, že vybrané jídlo je špatný nápad. Zní to trochu strašidelně, že AI takto řídí život. Pokud je ale cílem zmenšit kognitivní mezeru a pomoci k lepším rozhodnutím, dává to smysl. Kolik z vlastního rozhodování a lidskosti pak člověku zůstane, je otázka, kterou si musí zodpovědět každý sám.
Že má AI někdy pravdu víc než lidský úsudek, ukazuje i obyčejný příklad: agent doporučí jít si před prací zacvičit, rada se nedodrží a výsledek je horší, než mohl být. Dnešní agenti, kteří kvůli bezpečnosti a spolehlivosti stojí hlavně na pevně daných pracovních postupech, ovšem kognitivními symbionty zdaleka nejsou. Symbiont je zatím jen představa budoucnosti osobní umělé inteligence.
Ticho jako plnohodnotná odpověď
Nejzajímavější částí konceptu je společné soužití v reálném čase a politika zásahů. Někteří dnešní agenti umějí uživatele „vyghostovat“ – neodpovědí, protože věc nepovažují za důležitou nebo ji mají za vyřízenou. S tím počítá i návrh symbionta: ticho v něm platí za plnohodnotný možný výstup. Je to správně. Když AI většinu času sleduje, co člověk dělá, má většinu času také mlčet a nezasahovat, protože kapacita pozornosti je omezená.
Právo na chybu a vyšší základní úroveň
Ticho by mělo být i prostorem pro chybu. Právě v tom je hrozba symbionta: lidé budou stále víc učení i rozhodování odkládat na umělou inteligenci. Přitom nejvíc se člověk naučí z toho, co udělá špatně nebo neudělá vůbec. Možnost chybovat bývá to nejcennější, co může dostat.
Cílem symbionta proto nemá být jen vytáhnout z člověka maximum, ale zvednout i jeho základní úroveň. To je zásada, které by se vyplatilo držet při jakémkoli používání AI: zlepšovat se nejen s umělou inteligencí, ale i bez ní. Kdo jen předává informace AI a ladí její výstup, otevírá mezi sebou a strojem obrovskou kognitivní mezeru. Kdo se díky práci s AI zlepšuje i sám, roste společný výstup i jeho vlastní základ. Mezera zůstává stejná, ale posun přichází z lidského růstu, ne z toho, že se do AI sype čím dál víc práce. To je nejlepší způsob, jak AI využívat.
Žebříček asistence u praktických úkolů
Pátým prvkem je stupňovitá asistence při zachování lidské autonomie a společný růst. Právě zde se podle všeho rozhoduje, zda se z AI agenta stane symbiont. Návrh popisuje takzvaný žebříček asistence pro tři oblasti: praktické úkoly, společné myšlení a sociální interakce.
U praktických úkolů, jako jsou e-maily nebo plánování cesty, má symbiont nechat dost volnosti na chybu a vyhodnocovat, co člověka posune. Příklad z rodinného plánování dovolené: do Kodaně, odtud lodí do Edinburghu a pak pobyt ve Skotsku. Běžný agent by hned oznámil, že taková lodní cesta neexistuje a že podobnou nabízí třeba Oslo. Symbiont by nechal rodinu v klidu probrat, co by ji v Kodani i Edinburghu lákalo – nechal by ji dělat lidskou práci a prohlubovat vztahy. Teprve až by přišla řeč na trasu lodi, cenu a rozpočet, ozval by se: poslouchal jsem, tato cesta už neexistuje, alternativou je Oslo. Pomůže přesně ve chvíli, kdy je to potřeba, a jinak mlčí.
Společné myšlení a zklidnění
Druhou oblastí je společné myšlení a prožívání. Když není po ruce druhý člověk a tužka s papírem nestačí, AI pomůže s rozhodováním, strukturováním cílů, učením, udržením pozornosti i emoční stabilitou. Kdo je rozčilený, může dnes agentovi napsat, že potřebuje aktivitu, která ho z toho dostane. Agent pošle studii k pročtení, nebo zahltí deseti rychlými úkoly a e-maily k vyřízení. Člověk se přepne do jiného režimu, uleví si a pak se na situaci podívá z jiného úhlu.
Symbiont by tuto asistenci ke zklidnění nabízel sám. V autě nelze agenta zavolat ani si nic číst. Symbiont by ale viděl zrychlený tep, bublající vztek i změnu pohybu očí – a začal by řešit něco, o čem ví, že člověka rozptýlí. Zní to trochu děsivě, v určitých chvílích je to ale lákavá možnost, jak se zbavit vzteku a dostat se do soustředění, ve kterém chce člověk být.
Pomoc v sociálních a stresových situacích
Třetí oblastí jsou sociální interakce. AI může pomoci s nácvikem těžkých rozhovorů, s orientací v cizích kulturách nebo se zvládáním stresových situací. Výlet s dětmi do Londýna umí být extrémně stresující. Proaktivní agent, který vidí, co se děje, a nabídne, že rodinu nejrychleji provede metrem, by ušetřil spoustu nervů: nemuset na všechno myslet, nic nehledat, na nikoho neštěkat a nekazit si dovolenou. Stačilo by pár pokynů do brýlí a člověk by se mohl věnovat dětem. Žádný současný AI agent tohle neumí, takto dnešní systémy nefungují.
Je dobře, že se taková myšlenka otevírá na místech, jako je Oxford. Zatím je to vize a další možný krok umělé inteligence, ne jistota, že se uskuteční. Je ale velmi pěkně popsaná a má působivé jméno.
Parťák, ne náhrada
AI agenti, kteří udělají všechnu práci, jsou příjemní, jenže člověk při ní přestává být důležitý – a hrozí mu i ztráta pracovního místa. Kognitivní symbiont má být parťák, který tlačí zespodu nahoru, aby byl člověk co nejschopnější.
Dostatečně tvůrčí, soustředěný nebo cílevědomý člověk takovou asistenci asi nutně nepotřebuje, protože si ji vytvoří sám. Spousta lidí ale nechává AI dělat příliš mnoho práce a rozhodnutí. Takoví lidé se neposouvají, nebo dokonce přicházejí o část schopností, a mezi průměrným člověkem s AI a bez ní vzniká velká mezera. Když se na akademické půdě objevují rámce, jak tuto mezeru u běžné populace zmenšovat, je to dobrá zpráva a stojí za to o nich mluvit – i když v nich zůstávají mezery a problémy k domyšlení.
Závěr
Kognitivní symbiont je zatím jen preprint a vize: neustále přítomný agent, který vnímá okolí, pamatuje si celý život uživatele, modeluje jeho mysl, většinu času mlčí a pomáhá stupňovitě. Jeho hodnota nestojí na tom, kolik práce za člověka udělá, ale na tom, zda člověk díky němu poroste i ve chvílích, kdy AI po ruce mít nebude. Zda jde o utopii, nebo dystopii, je otázka, kterou si musí položit každý sám.