Středoškoláci procvičovali matematiku. Jedna skupina u toho používala ChatGPT, druhá pracovala bez umělé inteligence. Skupina s chatem dosáhla při procvičování o 48 % vyššího skóre, což vypadá jako skvělý způsob, jak se učit. Pak ale přišel test bez AI. Otázka, kterou si dnes klade kdekdo, tak dostává konkrétní podobu: dá se umělá inteligence používat tak, aby učení zlepšila, nebo z nás nakonec udělá idioty?
Motivační dopis, který pak neobhájíte
AI dokáže napsat motivační dopis, v němž člověk působí jako fantastický vedoucí, který zvládá krizové situace. A klidně to může být pravda. Umělá inteligence se ale zeptala jen na pár věcí a z odpovědí poskládala krásný odstavec. U pohovoru pak někdo chce konkrétní případ nebo obhajobu a v hlavě je mlha. Naleštěný text najednou vůbec nepomůže, protože výborný příběh za vás poskládal někdo jiný a vy si musíte vybavit, co se skutečně stalo.
AI přitom jde zadat úplně jinou práci. Stačí si s ní popovídat: ať se doptává na konkrétní situace, rozhodnutí, na to, co se povedlo a co ne, a pak ať hledá místa, kde odpověď zní dobře, ale chybí jí příklad. Nejde pak o to, že umělá inteligence napíše lepší dopis. Při takové přípravě si člověk sám ujasní, co opravdu umí a co si teprve musí promyslet.
Parťák v editoru, který ví, kdy se ozvat
Právě tento princip zkoumala nová studie od Googlu. Lidé si v ní mohli postavit AI parťáka podle toho, s čím chtěli pomoct a kdy se má ozvat. Parťák nabídl otázku nebo připomínku a člověk se rozhodl, co s ní udělá. Výzkumníci pak sledovali, jak si lidé pomoc nastavovali a co s podněty při psaní dělali.
V editoru si každý vytvořil parťáka a určil mu roli: jeden mohl hlídat důkazy, jiný hledat protiargumenty. Potom si nastavil, kdy má parťák vůbec šanci se ozvat, třeba po dopsání věty, při pauze nebo po označení kusu textu. A nakonec i to, za jakých okolností má šanci využít, například jen tehdy, když něco tvrdíte a chybí k tomu příklad. Ne každé zaseknutí totiž znamená, že člověk potřebuje pomoc, někdy si jen potřebuje odpočinout.
Když se podmínky sešly, objevila se vedle textu malinká značka. Šlo ji nechat zmizet, nebo ji otevřít a začít si s parťákem psát. Teprve když člověk chtěl, promítla se navržená změna přímo do textu. Zní to složitě, ale vypadá to jako docela funkční řešení.
Středoškoláci s chatem a s tutorem
Že nejde jen o hezky znějící teorii, ukázala už zhruba rok stará studie právě o středoškolácích s názvem Generative AI without guardrails can harm learning: Evidence from high school mathematics. Způsob, jakým AI při učení použijete, podle ní zásadně rozhoduje o tom, co vám z učení zbude pro skutečnou práci.
Studenti s běžným chatem vyřešili při procvičování víc úloh než děti bez umělé inteligence. Pak ale dostali test bez ChatGPT, bez učebnice a bez jakékoli nápovědy, prostě klasický školní test, a dopadli zhruba o pětinu hůř než skupina, která se učila úplně normálně. AI je tedy super, jenže se u ní člověk nic nenaučí a stává se hloupějším.
Ve studii však byla ještě druhá skupina, která měla AI tutora. Ten při procvičování pomáhal nápovědami místo hotových odpovědí, podobně jako bublinka v editoru od Googlu, a jak má pomáhat, mu připravili učitelé. Studenti s tutorem měli při procvičování nejlepší výsledky ze všech, a když AI zmizela, dopadli v testu stejně jako skupina bez umělé inteligence.
Z toho plyne jednoduchá věc: když AI nastavíte tak, aby za vás nedělala kroky, které se chcete naučit, ale pomohla vám jimi projít, dosáhnete při práci mnohem lepšího výsledku a přitom se naučíte totéž, jako kdybyste pracovali bez ní. Z vlastní hlavy vytáhnete víc, ale procvičíte ji stejně. To nejlepší z obou světů.
Lidé nechtěli, aby AI psala za ně
Stejný princip se dá přenést do tvůrčí práce, a přesně to zkoušel Google DeepMind ve studii Designing Proactive Thought Partners for Writing. Šestnáct lidí v ní týden psalo vlastní texty, každý si mohl vytvořit AI parťáky a nastavit jim, s čím mají pomáhat a kdy se ozývat. Výzkumníci se pak dívali, jak si je lidé nastavují a co s jejich podněty dělají.
Nejzajímavější je asi jedna věc. Lidé, kteří měli AI přímo vedle rozdělaného textu, si ji většinou nenastavili tak, aby za ně psala. Chtěli, aby hledala slabé důkazy, protiargumenty a díry v logice nebo pomohla rozvinout nápad. Vybrali si tedy stejný druh pomoci, jaký dostali studenti s tutorem, jen s tím rozdílem, že studenti ho měli nastavený, kdežto pisatelé si ho zvolili sami. Nechtěli, aby AI udělala práci za ně, ale aby jim pomohla udělat ji líp.
Když AI vyhodnotila, že nastal správný okamžik, ukázala malou značku, kterou lidé většinou ignorovali. Když ji otevřeli, dostali podnět nebo ukázku a mohli si s parťákem psát dál. Změnu do textu nechali přepsat až tehdy, když sami chtěli.
To vrací trochu víry v lidstvo. Poslední dobou se hodně mluví o tom, že s AI přijde úpadek lidské práce, motivace i činnosti vůbec. Tady je ale vidět něco jiného: přestože AI umí napsat celý text a v něčem ho nejspíš napíše líp, lidé ji takto používat moc nechtěli. Tvůrčí práci chtěli dělat dál sami, jen s pomocí ve chvíli, kdy mohla výsledek zlepšit způsobem, kterého by si sami asi nevšimli.
Stejně se dá pracovat i s mluveným výkladem: každý odstavec nejdřív nadiktovat vlastními slovy a AI pak jen učeše opakování a vyhodí vatová slova. Autor tak ví, co říká a proč, a výsledek jen vypadá o něco lépe, než kdyby text psal sám nebo mluvil z patra. S AI se dá posouvat mnohem rychleji, ale musí spolupracovat s vámi. Kdo za sebe nechá AI udělat celou práci, nemá pak na čem posun postavit.
Proč by se AI měla ozvat sama
Proč by se ale AI měla při práci ozývat sama, bez vyzvání? Proč by vás vůbec měla sledovat? Odpověď se vrací ke studentům. Kdo se učí sám a nemá vedle sebe nikoho, kdo by mu pomáhal, svoje chyby často vůbec nevidí. Leckomu se stalo, že vyřešil problém, ale postup byl úplně špatně a správné řešení byla náhoda.
Na dobré škole proto v matematice nebo ve fyzice nikoho nezajímal hlavně výsledek, ale postup. Ke správnému výsledku se totiž dá, zvlášť u jednoduchých středoškolských příkladů, dostat úplně omylem, a když výsledek sedí, nemá člověk sám jak poznat, že udělal chybu. AI, která vás při práci sleduje, dokáže najít díru v argumentu, chybu v postupu nebo místo, kde jste si něco špatně vyložili, a upozornit vás na ni právě teď.
Samozřejmě jde všechno dodělat a AI pak požádat o komentář. Když ale sleduje práci průběžně a do psaní nebo řešení skočí hned, má to obrovskou výhodu: chybu je mnohem snazší přestat dělat. Představte si, že s AI píšete delší text, třeba právní dokument, firemní směrnici, obchodní nabídku nebo analýzu projektové dokumentace. Někde na začátku uděláte chybu, o které nevíte, a postavíte na ní všechno ostatní. Pak si text vzorně projdete a nakonec požádáte AI o zhodnocení. Ta zjistí chybu na začátku a všechno, co následovalo, se může rozsypat. Zbude jen vztek, frustrace a práce, která nestojí za nic.
Parťák, který průběžně sleduje, pasivně čeká a aktivně se ozve jen ve chvíli, kdy je to opravdu potřeba, je proto ta nejlepší souhra.
Užitečných 87 procent, ale jen z ohodnocených
Má to ovšem háček. Umělá inteligence velmi často nechápe, co autor zamýšlel, bývá přehnaně kritická, nerozumí autorskému záměru a začne opravovat i věci, které byly udělané schválně. Ve studii od Googlu je to docela zajímavě vidět. Lidé během testování otevřeli 459 podnětů, ale jen 128 z nich dobrovolně ohodnotili. Ze 128 označili 111 jako užitečné a 17 jako neužitečné. Z ohodnocených podnětů tedy bylo skoro 87 % úspěšných, což je hodně vysoké číslo a na první pohled to vypadá, že AI záměr pisatelů chápala docela dobře.
Jenže co si lidé mysleli o zbylých 331 otevřených podnětech, nevíme. Třeba byly úplně v pořádku a lidem se je jen nechtělo hodnotit. Nebo to byl takový odpad, že se na něj jen podívali a nechtěli s ním ztrácet čas. Ověřené to není, a tak ani nevíme, jak dobře dokáže AI v reálném čase reagovat.
Praktická zkušenost naznačuje spíš opatrnost. Když se AI člověk ve správnou chvíli zeptá o radu, poradí často velmi dobře. Když ale radí proaktivně, vydává se někdy směrem, za který by člověk nejradši vyhodil počítač z okna. Otázkou tedy zůstává, jestli editor od Googlu získal svou užitečnost tím, že se dokázal ozvat ve správnou chvíli, nebo jestli mezi neohodnocenými podněty zůstala spousta balastu. Dá se jen odhadovat a zkušenost ukazuje spíš na balast.
U podnětů, které lidé označili jako špatné, víme něco zajímavého. Byly buď příliš obecné, nebo opakovaly něco, co už v textu bylo, nebo přišly příliš pozdě. Právě to dokáže z velmi chytrého pomocníka rychle udělat Clippyho, na jehož otravné rady dodnes vzpomínají frustrovaní mileniálové.
Nastavit parťáka znamená poznat sám sebe
Aby se z parťáka Clippy nestal, je klíčové to, co Google udělal hned na začátku. Parťáka si lidé museli nejdřív sami nastavit: říct mu, co se snaží vytvořit, s čím potřebují pomoct, kde podle nich obvykle dělají chyby a kdy je naopak vůbec nemá rušit.
Stojí za to zamyslet se, co to dělá s vlastním přemýšlením. Kdo má AI říct, kde často chybuje, musí se nejdřív zamyslet, kde často chybuje. Kdo jí má vysvětlit, kdy ho nemá rušit, musí si uvědomit, ve kterých chvílích potřebuje pomoc a ve kterých hlavně soustředění a klid. Spousta lidí přitom o tom, jak pracuje, kde se ztrácí, kdy potřebuje pomoct a kdy se soustředí, takto vědomě nikdy nepřemýšlela.
Účastníci studie sami popisovali, že už samotné nastavování jim přineslo užitek. Jednak z AI udělalo užitečnějšího partnera, který neotravoval ve chvíli, kdy o něj nestáli. A možná ještě důležitější je, že je nutilo přemýšlet o rozdělané práci jinak: museli nejdřív pojmenovat svoje cíle, slabiny a způsoby práce.
Kdo klade otázky, ten řídí přemýšlení
Dobrý parťák totiž někdy nechá člověka být a nedělá nic. Neptá se pokaždé, když by teoreticky mohl nějakou otázku položit. Důkazů, které může AI během práce nabídnout, existují tisíce a některé by i pomohly. Jenže otázka každých 30 sekund přemýšlení spíš brzdí, protože rozbíjí myšlenku, kterou člověk zrovna skládá. Určitá zdrženlivost proto může fungovat podstatně líp než neustálé kladení otázek.
Existuje ale ještě důležitější hranice. Ani to, že AI jen klade dobré otázky a nic za vás nenapíše, automaticky neznamená, že díky ní přemýšlíte líp. Když AI vymyslí všechny otázky, určuje tím, nad čím budete přemýšlet, v jakém pořadí a jakým směrem se vydáte. Vy pak jen přikyvujete a odpovídáte, a tu nejdůležitější část přemýšlení, tedy poznat, na co se vůbec zeptat a na co se soustředit, jste nechali na někom jiném.
Možná to znáte: někdo vám položí dobrou otázku a vy si řeknete: „Ty kráso, na tohle jsem se měl zeptat sám.“ Kdyby vás napadla o chvíli dřív, možná byste druhého člověka vůbec nepotřebovali. Právě tuto schopnost vám AI může pomoct vybudovat, nebo ji postupně odebírat.
Dobrý AI parťák by vás proto neměl jen dovést k lepší odpovědi. Měl by vás postupně naučit klást si lepší otázky sami, abyste příště poznali, že chybí důkaz, že je tvrzení příliš obecné nebo že jste přeskočili krok, na kterém všechno ostatní stojí. Nejlepší otázky parťáka by se po čase měly stát vašimi vlastními. To je kognitivní trénink, který člověk potřebuje.
AI má rozšiřovat, ne nahrazovat
Tady se kruh uzavírá u studentů. Smyslem tutora nebylo jen dostat je ke správnému výsledku. Část práce jim nechal, aby si ji prošli sami, a díky tomu po odebrání AI nedopadli hůř než ti, kdo umělou inteligenci vůbec nepoužívali. U psaní a přemýšlení by měl platit stejný princip. Velmi dobrá data k tomu zatím nemáme, ale nějaká existují. AI může pomoct dostat se dál, neměla by však sebrat právě ten krok, který se člověk chce naučit a chce dělat sám.
Proto výzkum od Googlu zanechává docela velkou naději. Ukazuje, že když lidé dostanou nástroj, který může psát za ně, pořád si z něj dokážou udělat partnera, který jim pomáhá dělat vlastní práci líp a posouvá je dopředu. Nechtějí jen zmáčknout tlačítko a zmizet z celého procesu. Je to vidět u programátorů, u tvůrců a teď i u psaní, a u všeho dalšího to bude podobné. Lidé chtějí přemýšlet, rozhodovat a zůstat ve hře, AI jim v tom má pomáhat.
Umělá inteligence nakonec nemusí člověka nahradit ani převzít úplně všechno. Může rozšířit to, co zvládne sám, podobně jako počítač s Excelem rozšířil to, co dokáže spočítat a zpracovat. Pořád je ale potřeba vědět, co chcete zjistit, proč děláte to, co děláte, a jestli výsledek vůbec dává smysl.
Zachovat se musí hodnota samotné lidské práce, to, že ji dělá člověk. AI sama nedá důvod, proč se zlepšovat, proč něco pochopit a proč vám záleží na tom, aby práce byla opravdu vaše. To si musí uchovat každý sám, lidstvo jako celek, a musí to umět ocenit i u druhých.
Závěr
Studie se středoškoláky ukázala, že běžný chat zvedne výkon při procvičování, ale bez něj pak studenti píšou test zhruba o pětinu hůř. Tutor, který radí nápovědami, ne hotovými odpověďmi, tuto daň nevybírá. Výzkum Google DeepMind s pisateli naznačuje, že lidé chtějí od AI podobný druh pomoci: hledání slabých míst, ne psaní za ně. Užitečnost proaktivních podnětů je ale nejistá a klíčem je vlastní nastavení parťáka i to, aby AI nepřebrala ani kladení otázek. Má rozšiřovat lidské myšlení, ne ho nahrazovat.
