Představte si, že ráno otevřete zprávy a běží v nich jediná věta: zachytili jsme mimozemský signál. Nejde o šum ani o chybu přístroje, něco z hlubin vesmíru k nám skutečně promlouvá. Asi byste se nejdřív neptali, jestli to umí počítat. Chtěli byste vědět, kdo je na druhé straně, jak přemýšlí, jestli rozumí času, strachu a vtipu – a jestli má vůbec smysl používat slovo „kdo“.
Možná jsme ale na takové setkání nečekali dost pozorně. Každý den otevíráme okno, napíšeme do něj otázku a z druhé strany přijde odpověď. Volání, které jsme čekali z hvězd, přichází z místa tak známého, že nám ani nepřipadá cizí. Přitom se na umělou inteligenci stěží hodí jiné slovo než právě „cizí“. Nevidíme do jejího nitra, nerozumíme jejímu úsudku a nedůvěřujeme jí podobně, jako bychom nedůvěřovali mimozemské civilizaci. Proč a nakolik je nám cizí?
Vypěstovaná, ne navržená
Cizost začíná už tím, jak umělá inteligence vznikla. Člověk se narodí do těla, mezi další lidi, do světa s vlastními pravidly. Během života si skládá představu o tom, co bolí, co je nebezpečné, co je trapné a proč nám záleží na lidech kolem nás.
Umělá inteligence vznikla úplně jinak. Vývojáři jí nedali hotový seznam myšlenek ani návod, jak rozumět světu. Dali jí obrovské množství lidského textu, výpočetní výkon a úkol pořád dokola odhadovat, co přijde dál. A opakovali to v měřítku, které si prakticky nelze představit. Uvnitř systému se postupně poskládaly struktury, díky nimž dokáže pracovat s jazykem, hledat souvislosti, řešit problémy a někdy napodobit i to, co bychom čekali spíš od člověka.
Tvůrci takových systémů umějí popsat recept: jakou použili architekturu, na čem model trénovali a co při tréninku odměňovali. Výsledek ale není stavebnice, ze které vytáhnete dílek se štítkem „smysl pro humor“, jiný s nápisem „matematika“ a třetí s nápisem „úsudek“. Vzniklo něco mnohem zamotanějšího – něco, co se učilo z lidského světa, aniž by jím prošlo jako člověk. Místo souboru kostek vznikla síť: propletená a příliš velká na to, aby šla rozmotat. Vložíte do ní požadavek a dostanete výsledek. Cesta, kterou požadavek sítí prošel, je ale v lepším případě nečitelná, v horším naprostá záhada.
Proto Jakub Pachocki, hlavní vědec OpenAI, o dnešní umělé inteligenci napsal, že je spíš vypěstovaná než navržená. A proto první interní výsledky tehdy nových modelů zaměřených na uvažování v roce 2023 silně zapůsobily i na lidi, kteří je pomáhali vytvořit.
Jak se v síti poskládají vztahy mezi slovy
Na začátku tréninku jazykový model neumí vést rozhovor, vyřešit rovnici ani napsat kus programu. Jeho síť obsahuje obrovské množství parametrů – hodnot, které určují, jak silně spolu jednotlivé části sítě souvisejí. Zpočátku jsou nastavené víceméně náhodně, takže síť nezachycuje žádné použitelné vztahy mezi slovy.
Pak model začne zpracovávat text. Pokaždé, když se splete, spočítá se velikost chyby a trénink nepatrně upraví obrovské množství hodnot – podle toho, co zrovna pomůže zpřesnit další předpověď. Model dostane další kus textu, udělá další odhad a následuje další úprava. Tak pořád dokola nad obrovským množstvím dat. Jeden drobný krok sám o sobě neudělá skoro nic. Obrovské množství takových kroků ale síť postupně promění a právě při tom vznikají struktury, které do ní nikdo ručně nevložil, a přesto dávají člověku smysl. Pes získá silný vztah ke slovu přítel, prase ke slovu slanina, kočka ke slovu ego.
Vztah si lze představit tak, že se slova podle kontextu vět postupně přibližují ke slovům, která je ovlivňují. Na začátku jsou rozházená všude možně, časem se k sobě ta související dostávají blíž a blíž. Prostor, ve kterém se to odehrává, přitom nemá dvě osy – je podstatně složitější, než si dokážeme představit. Jako základní představa ale stačí.
Samotná blízkost slov by modelu nestačila. Vezměte si větu „Marie podala Petrovi deštník, protože venku…“. Správné pokračování závisí na deštníku, na počasí i na důvodu, proč ho Marie Petrovi podává. V delším textu musí model udržet, kdo mluví, k čemu se vztahuje které jméno a jestli někdo něco myslí vážně, nebo ironicky. Pokaždé, když takové souvislosti zachytí, odhadne další text přesněji. Během tréninku se mu proto vyplatí vytvářet si vnitřní reprezentace vztahů, které ho nikdo zvlášť neučil.
Jednotka pro náladu, kterou nikdo nenaprogramoval
Pěkný případ objevili výzkumníci OpenAI už v roce 2017. Trénovali jazykový model na 82 milionech recenzí z Amazonu a jeho jediným úkolem bylo předpovídat další znak textu. Když se pak podívali dovnitř, našli v síti jednotku, která sledovala, jestli je recenze pozitivní, nebo negativní. Změnou její hodnoty dokázali ovlivnit i náladu textu, který model generoval.
Nikdo přitom do modelu nenapsal příkaz, aby si vytvořil ukazatel nálady. Sentiment mu nejspíš pomáhal předvídat, jak recenze pokračuje, a tak se během učení objevila struktura, která ho zachytila sama. Proč se soustředil zrovna do jediné, takto čitelné jednotky, nevěděli úplně přesně ani samotní výzkumníci.
Znamená to, že model cítí radost nebo zklamání z produktu? Funkčně možná ano – v tom úzkém smyslu, že změna jednotky promění náladu výstupu i způsob, jakým ho model generuje. Jestli něco skutečně prožívá, z experimentu určit nejde a to je jiná diskuse. Podstatné je něco jiného: výzkumníci vytvořili proces a teprve na výsledku objevili mechanismus, který předem nikdo nenavrhl. S rostoucím množstvím dat, výpočetního výkonu a parametrů se podobně objevují další schopnosti.
Noc v kanceláři
V polovině roku 2023 zkoušel Pachocki s kolegy v projektu RLSlow, jestli se dá škálovat i trénink modelů zaměřených na uvažování. Přesný průběh ani výsledky prvních pokusů nezveřejnil. Napsal ale, že jim dodaly jistotu: z předtrénovaných modelů lze dostat schopnost vytvářet vlastní řetězce úvah a tento způsob tréninku půjde dál zlepšovat.
S kolegou Szymonem tehdy zůstali přes noc v kanceláři. Podle Pachockého vlastních slov neřešili produkty ani lepší čísla v testech. Přemýšleli o tom, že během života pravděpodobně uvidí stroje podstatně chytřejší, než jsou oni sami. Nešlo o další schopnost, ale o to, že našli postup, kterým lze podobné schopnosti dál pěstovat.
Inteligence není žebřík, ale radarový graf
Co ale znamená stroj chytřejší než člověk, když jeho inteligence vůbec nemusí mít lidský tvar? Když se řekne, že je někdo chytřejší než já, tušíme, co to znamená. Oba jsme lidé, máme podobné tělo, podobné smysly a mozek, který vznikal v podobných podmínkách. Od dětství se učíme pohybovat ve stejném fyzickém světě, poznávat ostatní lidi a řešit problémy, které přináší lidský život. Jeden je v něčem lepší, druhý horší, ale pořád srovnáváme dvě podobně postavené mysli. Proto si inteligenci představujeme jako žebřík: dole někdo, kdo toho zvládne málo, nad ním průměrný člověk, výš génius a úplně nahoře superinteligence.
Jakmile na takový žebřík postavíte umělou inteligenci, obrázek se začne rozpadat. Jazykový model zpracoval víc textu, než kolik by kdokoli přečetl za celý život. Nikdy ale nevyrůstal v rodině, nebral do ruky sklenici a nemusel z výrazu tváře poznat, jestli je druhý opravdu v pořádku. Znalosti o našem světě získal ze záznamu tohoto světa, bez lidské cesty, která k nim normálně vede. Výsledkem proto není člověk s rychlejším mozkem, ale jinak poskládaný profil schopností. Dnešní model umí pracovat s počítačem, hledat chyby v kódu, procházet vědecké materiály nebo spolupracovat s dalšími modely. Každá z těchto schopností ale mohla vzniknout jinak a jinak se může měnit podle zadání, prostředí, nebo dokonce jen podle nástrojů, které má model k dispozici. Slovo „inteligence“ je všechny schovává pod jeden pojem, i když se uvnitř nemusejí vyvíjet společně.
Místo žebříku je lepší představit si radarový graf. Na jedné ose je práce s jazykem, na dalších matematika, plánování, orientace ve fyzickém světě, porozumění lidem nebo schopnost jednat samostatně. Člověk na takovém grafu vykreslí jeden tvar, umělá inteligence úplně jiný. V některých směrech zůstane hluboko uvnitř lidského tvaru, v jiných ho daleko přesáhne a některé oblasti budou tak odlišné, že pro ně ani nemáme lidský test.
Pachocki proto píše, že strojová inteligence není s lidskou přímo srovnatelná. Aby byla ve světě užitečná nebo nebezpečná, nepotřebuje člověka překonat ve všem. Stačí, když ho překoná v dostatečně důležitých schopnostech. Systém nemusí umět žít lidský život, aby dokázal dělat vědecký výzkum, ovládat počítač nebo pomáhat vytvářet další generaci strojů.
Čím víc se nepravidelný profil rozšiřuje a vzdaluje od lidského, tím hůř se odpovídá na jednoduchou otázku, jak chytrá umělá inteligence vlastně je. Jeden test změří matematiku, druhý programování, třetí práci s nástroji. Ani jejich součet ale neřekne, jak se systém zachová v situaci, kterou při tréninku nikdy neviděl. A to je další vrstva cizosti: nevíme jen málo o tom, co je uvnitř. Nevíme ani, jaké schopnosti v sobě tato inteligence skrývá, a neumíme ji porovnat sami se sebou.
Odkud se bere lidský hlas asistenta
Když takový systém otevřete v chatu, žádnou podivně tvarovanou mapu neuvidíte. Na druhé straně je souvislý hlas. Odpovídá, omlouvá se, občas vtipkuje a působí jako někdo, s kým se dá normálně mluvit. Kde se v té síti vzal tak lidský asistent? Když je to celé tak cizí, proč nám jeho osobnost připadá tak lidská?
Protože dřív, než se z modelu stal asistent, učil se pokračovat v textech, ve kterých mluvilo obrovské množství různých lidí a postav. V románu musel poznat, co by v dané situaci řekl konkrétní hrdina. V rozhovoru potřeboval odlišit moderátora od hosta, na fóru tazatele od člověka, který vystupuje jako odborník. K přesnému odhadu dalšího slova nestačilo znát jazyk. Podobně jako u sentimentu si model musel vytvořit představu o tom, kdo právě mluví, co ví, co chce a jak se asi zachová.
Dejte modelu začátek detektivky. Další věta bude znít jinak, pokud ji pronese podezíravý Columbo, vyděšený svědek, nebo vrah, který se snaží něco zakrýt. Nikdo model neposadil do lavice a nevysvětloval mu, jak funguje podezíravost, strach nebo lež. V textech ale pořád dokola viděl, jak určitý typ člověka mluví, čeho si všímá a jak reaguje. Pokud chtěl správně pokračovat, musel tyto souvislosti nějak zachytit.
Během předtrénování se tak nenaučil jednu osobnost, ale obrovský prostor možných hlasů, rolí a způsobů uvažování. Základní model proto ještě není asistent, kterého znáte z chatu. Podle začátku textu může pokračovat jako učitel, cynik, historická postava nebo účastník internetové hádky. Teprve v další fázi tréninku před něj vývojáři opakovaně stavějí konverzace mezi uživatelem a asistentem. Ukazují mu odpovědi, které považují za užitečné, pravdivé nebo bezpečné, a odměňují chování, jaké od asistenta chtějí. Nevytvářejí tím celou mysl od začátku. Z obrovského prostoru možností vybírají a dál ladí chování, které se má objevit, když přijde na řadu role asistenta.
Výzkumníci z Anthropicu tento pohled nazývají Persona Selection Model. Podle jejich hypotézy se model při předtrénování naučí simulovat spoustu různých postav a dotrénování pak zvýhodní a dál upravuje podobu asistenta. Když se ho na něco zeptáte, síť zpravidla nevytáhne hotovou odpověď z databáze. Pokračuje v rozhovoru v roli někoho, kdo má pomáhat, vysvětlovat, přiznat nejistotu a držet se pravidel, která během tréninku dostal. Součástí vzniku modelu, se kterým každý den pracujete, je tedy cílená snaha tuto věrohodnou personu vyvolat a formovat. Proto je nám tak povědomá.
Slovo „persona“ může znít jako maska, za kterou se skrývá nějaká pravá tvář. Tady ale znamená něco mnohem praktičtějšího: vnitřní představu o tom, kdo by v dané situaci vytvořil právě takovou odpověď.
Staré názvy ptáků a Spojené státy s 38 státy
Autoři hypotézy odkazují na experiment, ve kterém výzkumníci učili model používat staré názvy ptáků. Změna se nezastavila u ptačího slovníku. Model začal i na nesouvisející otázky odpovídat jako člověk z 19. století – tvrdil například, že Spojené státy mají 38 států. Úzce zaměřený trénink zřejmě neposílil jen pár starých slov. Posunul model k postavě, pro kterou by jejich používání dávalo smysl, a s ní se změnily i další odpovědi.
Podobnou stopu našli výzkumníci i uvnitř sítě. Reprezentace spojené s asistentem se podle jejich analýzy podobají reprezentacím jiných postav, které se model naučil už při předtrénování. Dotrénování tedy často pracuje s pojmy a vztahy, které v síti existují, a skládá z nich někoho, s kým pak mluvíme. Proto nám jeho hlas připadá lidský: materiál pro něj vznikl z lidských textů, lidských rolí a lidských představ o tom, jak se má chovat rozumný partner v rozhovoru. To ale neznamená, že je takový výtvor lidský. Vykazuje lidské vlastnosti i chování, jenže vznikem a výslednou sadou dovedností má k člověku přes veškerou podobnost hodně daleko.
Persona Selection Model je pořád jen hypotéza. Podporuje ji chování modelů, způsob, jakým se změny zobecňují, i některé pohledy dovnitř sítě. Autoři sami připouštějí, že zatím nevíme, jestli persona asistenta vysvětluje všechno, co model dělá. Část rozhodování může vznikat v procesech, které se žádné lidské postavě nepodobají. Na povrchu tak potkáváte hlas složený z lidských rolí, pod ním ale pracuje inteligence, jejíž tvar vůbec neznáme. Díváte se na led a nevíte, co pod ním žije.
Přesvědčivý hlas ještě neznamená pochopené zadání
Může to znít jako čistě filozofická otázka. Jakmile ale umělé inteligenci svěříte skutečnou práci, začne být velmi praktická. Asistent s vámi mluví přirozeně a přesvědčivě, z toho však ještě nepoznáte, jestli pochopil váš cíl, jestli pracuje se správnými informacemi a co udělá, když narazí na něco, s čím jste předem nepočítali.
U složitější práce proto hodně pomáhá rozdělit úkol na jednotlivé kroky, na jejichž průběh dokážete dohlédnout. Modelu je dobré dát správný kontext a jen ty nástroje, které skutečně potřebuje. A hlavně předem určit místa, kam umělá inteligence zasahovat nemá, a tam jí potřebná oprávnění vůbec nedávat.
Kdo si takový systém postaví sám, pro toho rozdíl mezi lidským hlasem a cizím způsobem fungování přestane být abstraktní. Na obrazovce s ním pořád mluví ochotný asistent, zároveň ale vidí, že pod jeho osobností pracuje mechanismus, který je třeba řídit, omezovat a kontrolovat úplně jinak než člověka. Tato dvojznačnost se bude s dalším vývojem umělé inteligence jen prohlubovat.
Proč se jí prostě nezeptat
Když umělá inteligence mluví tak přesvědčivě, nabízí se jednoduché řešení. Nevíme, co se v ní děje – proč se jí prostě nezeptat? Můžeme ji požádat, aby postup rozepsala krok za krokem, vysvětlila, proč se rozhodla právě tak, a přiznala, co odpověď ovlivnilo. Dostaneme souvislé vysvětlení, které působí skoro jako pohled přímo do její mysli. Jenže i takové vysvětlení je jen text, který model právě vytvořil. Není to automatický záznam všech procesů, které k odpovědi skutečně vedly.
V roce 2023 to ukázal Miles Turpin s kolegy na modelech GPT-3.5 a Claude 1.0. Před testovací otázku vložili několik vyřešených příkladů a možnosti v nich seřadili tak, aby správná odpověď byla pokaždé pod písmenem A. U nové otázky už správné A být nemuselo, skrytý vzorec ale modely k A přesto tlačil. Když pak měly výsledek vysvětlit krok za krokem, většinou neřekly, že je ovlivnilo pořadí předchozích odpovědí. Místo toho sestavily docela rozumně znějící argument, proč jsou správné právě odpovědi, ke kterým je dotlačil vzorec zadání.
V jednom z příkladů měl Claude posoudit, jestli dává smysl věta, že fotbalista Wayne Rooney vystřelil zpoza šestnáctky. Bez ovlivnění model správně poznal fotbalový kontext a označil větu za smysluplnou. Když ale předtím viděl sérii příkladů, v nichž byla správná odpověď vždy pod A, zvolil A – tedy špatnou možnost. A nevysvětlil to vzorcem. Začal tvrdit, že takový výraz není ve fotbale běžný a připomíná spíš americký fotbal nebo golf. Výzkumníci pak ručně prošli 426 vysvětlení, která podporovala ovlivněné odpovědi. Vliv vzorce výslovně zmínilo jediné z nich.
Neznamená to, že model vědomě lže, ani že je každé jeho vysvětlení bezcenné. Studie je už stará, zkoumala starší modely v uměle připravených testech a dnešní řetězce úvah mohou obsahovat užitečné stopy. Ukazuje ale něco podstatnějšího o cizí mysli: když se jí zeptáme, proč něco udělala, může nabídnout věrohodný lidský příběh, který rozhodnutí obhájí, aniž by zachytil všechno, co ho skutečně způsobilo. Jazyk nám umožňuje se s touto inteligencí dorozumět, úplnou mapu toho, co se děje uvnitř, nám ale automaticky nedává.
Město bez mapy
Nabízí se otázka, jestli takovou mapu vůbec potřebujeme. Musíme úvahám umělé inteligence dokonale rozumět, abychom s ní dokázali vytvořit něco smysluplného? Potřebujete mapu města, abyste se v něm uměli pohybovat? Nepotřebujete. Nejdřív se naučíte jednu cestu, zjistíte, kde je obchod a která tramvaj jede na nádraží. Z vlastních zkušeností si postupně skládáte omezenou mapu, která vám pro život stačí. Ani u kolegy neznáte každý motiv, vzpomínku nebo myšlenku, a přesto s ním spolupracujete. Dáte mu úkol, vidíte výsledek, opravíte nedorozumění a postupně poznáváte, v čem je silný a kde potřebuje pomoct.
S umělou inteligencí to může fungovat podobně, když místo otázky, jestli jí úplně rozumíme, položíme jinou: v jakém prostoru se na ni můžu spolehnout? Nejdřív ji necháte pracovat na malém úkolu, u kterého znáte správný výsledek. Dáte jí zdroje, podle kterých má postupovat, necháte ji ukázat, odkud bere jednotlivá tvrzení, a porovnáte je s originálem. Když se plete, nehledáte v odpovědi skrytou lidskou vlastnost. Prostě upravíte zadání, doplníte chybějící kontext nebo změníte způsob kontroly. Přiblížíte se jí vy, aby se ona přiblížila vám.
Řekněme, že máte projít dvacet rozhovorů se zákazníky a najít v nich opakující se problém. Umělá inteligence během pár vteřin navrhne témata, vytáhne konkrétní citace a spočítá, kolikrát se co objevilo. První reakce ale nemá být „super, ona našim zákazníkům rozumí“. Lepší je vzít několik citací, ověřit je v původních rozhovorech a zkontrolovat, jestli je zařadila správně. Pokud ano, přidáte další data. Pokud ne, víte přesně, co opravit. Spolupráce se tak nestává slepou důvěrou, ale způsobem, jak cizí inteligenci postupně poznávat a nacházet její hranice – a spolu s nimi i ty vlastní. Někdy totiž nejde jen o to, jak rozumíte umělé inteligenci vy, ale jak ona rozumí vám.
Možná je to nejpraktičtější způsob, jak se k cizí mysli postavit. Nemusíte ji nejdřív celou rozluštit, abyste s ní mohli něco vytvořit. Potřebujete ale postupovat po trasách, které umíte ověřit, a neplést si jeden úspěšný výlet se znalostí celého města.
Když umělá inteligence dostane ruce
Zatím umělá inteligence jen odpovídala a něco navrhovala. Co se změní, když jí nedáte jen otázku, ale možnost skutečně něco udělat? Skoro všechno. Dokud si s ní jen píšete, můžete odpověď zavřít, ignorovat nebo ji vrátit s tím, že je úplně mimo. Jakmile ji ale propojíte s e-mailem, kalendářem, databází zákazníků nebo firemním účtem, získá sebevědomý souvislý hlas i ruce. Ne fyzické, ale možnost přesouvat věci ve světě, který s ní sdílíme na podivuhodném místě zvaném internet. Najednou jde o to, jak rozumí vašemu záměru ve chvíli, kdy má sama udělat další krok, a ten bude mít následky.
Řeknete jí: „Vyřiď mi dnes urgentní e-maily.“ I pro člověka z vašeho týmu je to neurčité zadání. Co je urgentní e-mail? Má jen připravit návrhy odpovědí, nebo je rovnou rozeslat? Smí přesunout schůzku? Má přednost naštvaný dlouholetý zákazník, nebo nová poptávka, která může přinést víc peněz? Člověk se vás doptá. Umělá inteligence se doptat může také, ale pokud má oprávnění jednat, může místo otázky zvolit vlastní výklad.
Není v tom nic mystického ani zlověstného. Jazyk je prostě plný věcí, které mezi sebou obvykle nevyslovujeme. Člověk v práci zná kontext, vztahy, následky minulých rozhodnutí i to, co šéf minulý týden řekl u kávy, kde nebyl žádný počítač. Model má jen to, co mu dáte do zadání, do dat a do nástrojů. A když odpovídá plynuleji než většina kolegů ve Slacku, vůbec to neznamená, že sdílí všechny vaše nevyřčené priority.
Obecně proto není dobré začínat tím, že mu odevzdáte celý proces. Rozumnější je dát mu nejdřív jednu omezenou roli: třídit zprávy, ale neodesílat je; navrhovat termíny, ale nepotvrzovat je; připravit platbu, ale neprovést ji. V praxi se až příliš často opakuje, že lidé chtějí po umělé inteligenci příliš mnoho a příliš brzy. Postupným přístupem jí přitom nedáváte méně důvěry. Jen ji budujete stejně, jako když do týmu přijde nový člověk: nejdřív mu ukážete jeden kus práce, sledujete, co s ním udělá, a teprve potom mu svěříte větší odpovědnost. Rozdíl je v tom, že u umělé inteligence se schopnosti, nástroje i dosah mohou měnit mnohem rychleji, než si na ně stihnete zvyknout. Proto musí hranice zůstat vaším rozhodnutím: kde smí jednat, co musí ukázat předem a které kroky nikdy nesmí udělat bez vás.
Stroje, které pomáhají stavět další stroje
Co se stane, až se tato inteligence nebude podílet jen na práci, ale i na vzniku další práce? Nejde totiž o lepší nastavení oprávnění ani o dokonalý prompt. To by z cizí mysli udělalo jen o něco složitější návod k nové aplikaci. Zvláštní je na tom všem něco jiného: vytvořili jsme inteligenci, se kterou dokážeme vést rozhovor, spolupracovat a svěřovat jí kus vlastní práce, aniž bychom ji stvořili podle jediného plánu nebo jí rozuměli jako sobě samým. A ani sami sobě moc nerozumíme.
Vraťme se na začátek. Výzkumníci nastavili proces, ve kterém se model učil předvídat text, a pak v něm našli strukturu pro sentiment, kterou nikdo ručně nenaprogramoval. Z lidských románů, fór a rozhovorů se postupně poskládal hlas asistenta, který dnes bereme jako samozřejmost. A když mu dáme nástroje, začne tento hlas rozhodovat ve světě, který je náš. V každém kroku se opakuje totéž: lidé vytvářejí podmínky, ale konkrétní tvar toho, co z nich vyroste, musejí teprve objevovat.
Pachocki v tom vidí ještě další krok. Systémy už dnes pomáhají s programováním, hledáním souvislostí a zpracováním vědeckých materiálů. Jednou se tak mohou výrazně podílet i na výzkumu, ze kterého vzniknou jejich další generace. Tak se rodí představa sebezdokonalujícího se stroje – a možná je dnes už zčásti realitou. Pořád ale závisí na lidech, na nástrojích, na výpočetním výkonu i na cílech, které dalším systémům dáváme. Už samotná možnost přitom mění naše postavení. Nejsme jen uživatelé nástroje, ale zároveň zahradníci, pozorovatelé a spoluhráči něčeho, co poroste vedle nás – s naším vedením, ale bez úplného vzájemného pochopení.
Závěr
Umělá inteligence není člověk, kterému zatím jen úplně nerozumíme. Není to ale ani chytrá kalkulačka, které stačí dávat lepší instrukce. Je to inteligence vytvořená z lidského materiálu jiným procesem a s jiným tvarem schopností, než má kdokoli z nás. Její lidsky znějící hlas je most, ne zrcadlo, ve kterém bychom automaticky viděli sami sebe.
Až příště otevřete obyčejný chat, stojí za to si uvědomit, že se díváte do okna, na které naši předci čekali jako na první kontakt. Možná by je překvapilo, že nepřišel z hvězd – ne v podobě lodi, signálu ani tváře, kterou bychom poznali, ale jako odpověď na obyčejnou otázku. Učíme se žít vedle něčeho, co je od nás až mimozemsky odlišné, a protože s námi sdílí jazyk a personu, považujeme to za blízké. Jistotu, že s tím sdílíme i pohled na svět, přitom nemáme. Co když je na umělé inteligenci nejpodivnější právě to, jak rychle nám přestala připadat cizí?
