Když chcete od jazykového modelu lepší odpověď, sáhnete skoro všichni po tomtéž triku: přidělíte mu roli. Buď kritik. Buď expert na marketing. Podívej se na to očima zákazníka. Pak přidáte druhou roli, třetí, pátou — a máte pocit, že na vašem problému pracuje celý tým. Zní to logicky. Jenže když se to změří, výsledek je jiný, než čekáte: víc agentů a víc rolí často znamená horší rozhodnutí, ne lepší.
Anthropic pustil na stejné zadání celý roj agentů a zkusil to třemi způsoby — nechal je domluvit se mezi sebou, rozdal jim role a nakonec nad ně postavil i řídicího agenta v pozici ředitele. Zlepšení nepřišlo. A když pochopíte proč, pochopíte zároveň, proč se stejným způsobem sesypou i vaše pondělní porady.
Třicet agentů, osmnáct stejných jmen
Třicet AI agentů, každý na vlastním počítači, všichni se stejným zadáním. Součástí práce bylo založit si vlastní pracovní větev — oddělenou kopii projektu — a pojmenovat si ji. Žádný seznam, žádná nabídka, jen prázdné políčko a miliardy možností, podobně jako když si pojmenováváte složku na ploše. Osmnáct z třiceti napsalo naprosto nezávisle úplně stejné jméno.
Jedna shoda by byla náhoda. Jenže se to opakovalo. V úloze na napsání povídky, kde nepadlo ani slovo o tom, o čem se má psát, dala řada agentů své povídce shodný název. A na výzvu postav něco působivého sáhla přes polovina skupiny po jedné ze dvou věcí: buď program, který počítá odrazy světla v místnosti, nebo program, který dokáže přeložit sám sebe. Pořád ty samé dva nápady.
Algoritmická monokultura: stejný model dá stejný nápad
Nabízí se vysvětlení, že se agenti nějak vzájemně ovlivnili. Jenže tohle není klasický skupinový nátlak, kde vidíte většinu a podvolíte se jí. O konformitu tu nejde. Ti agenti byli podobní už na startu — a ten jev má jméno: algoritmická monokultura. Stejný model plus stejné zadání znamená velmi podobný výstup. Není to sociální jev, je to vlastnost systému. Ve zveřejněných bězích navíc pracovaly pokaždé kopie jednoho a téhož modelu; smíšený roj, kde by každý agent běžel na jiném modelu nebo na jejich kombinaci, netestoval nikdo.
Proč by ale mělo vadit, že chytrý model dochází pořád ke stejnému řešení? Dva výzkumníci z Cornellovy univerzity to spočítali už před pěti lety: skupina, která se sjednotí na jediném postupu, rozhoduje jako celek hůř — a platí to i tehdy, když je ten postup pro každého jednotlivce ten nejlepší dostupný. Zeptejte se deseti lidí v kanceláři, co si máte přečíst. Když všech deset čte stejné noviny, nedostanete deset tipů, dostanete jeden tip desetkrát. A i kdyby to byly ty nejlepší noviny na světě, deset kopií nejchytřejšího modelu může být horší systém než rozmanitější sestava, jejíž jednotliví členové jsou méně přesní. Kvalita rozhodnutí není funkcí shody, je funkcí odstraňování neshody.
Čtyři agenti, pětkrát horší rozhodnutí
Když jsou si agenti tak podobní, dá se přece každému nadělit něco jiného. I to bylo otestováno. Čtyři agenti, tři z nich vidí totéž — zavádějící podklady — a čtvrtý drží jeden fakt navíc, který celé zadání obrací naruby. Mohli spolu normálně komunikovat a nikdo z nich nebyl hloupější než ostatní, běželi na stejném modelu. Skupina se přesto rozhodla pětkrát hůř, než by rozhodl jediný agent.
Ten test je vlastně hádanka a můžete si ji zkusit. Čtyři agenti mají společně vybrat lepší ze dvou možností, přičemž fakta jsou mezi ně rozdaná zlomyslně: to, co vidí všichni, ukazuje na špatnou odpověď, a rozhodující unikátní údaje drží jen jednotlivci. Je to jako když v kanceláři vybíráte ze dvou nabídek. Všichni máte na stole stejné letáky a ty mluví jasně, jenže někteří lidé u stolu drží další podklady, které dohromady ukazují na tu druhou nabídku. Aby skupina uspěla, musí se povést dvě věci: jednotlivec musí poznat, že právě jeho informace mění výsledek, a skupina mu musí dát správnou váhu proti tomu, co vidí všichni.
Test proběhl čtyřistakrát na různých modelech. U starších z nich se úspěšnost pohybovala kolem sedmnácti procent. A když stejná fakta — včetně těch unikátních, rozdaných mezi kolegy — dostane jediný agent a nechá se rozhodnout bez porady, bez týmu a bez jakékoli diskuze, úspěšnost je skoro stoprocentní. Stejná fakta, stejná inteligence, ale v týmu pětkrát horší výsledek. Nikdo nezhloupl a všechna data v systému byla. Jen se rozlila do čtyř hlav a rozhodující fakt se nedostal do společného rozhodnutí. Sólo výsledek je přitom skoro stejný napříč modely, takže ten propad není o tom, jak chytrá ta AI je. Je o tom, kudy informace teče.
Ztrátová komprese: co se nevejde do krabice
Tady je fér oddělit data od vysvětlení: kolik informací se při předání mezi agenty ztratí, nikdo neměřil. Agentní systémy se ale běžně staví tak, že jeden agent přečte celou knihu nebo obří statistiku a dál pošle jedinou stránku. Je to jako stěhování, při kterém máte celý byt a jednu krabici — extrémně ztrátová komprese.
Samo o sobě to ještě nemusí být problém. Problém je to, co do té krabice dáte a co se do ní nikdy nevejde. Dáte tam to, co jste viděli nejčastěji, co vám potvrdily tři různé zdroje, co se opakovalo. Jenže unikátní fakt, který nikdo jiný nepotvrzuje a který se neopakoval ani jednou, je ta nejpodivnější věc na celé hromadě. A okrajové případy do krabice taky nebalíte.
Tuhle poradu znáte. Každý přednese přehled za své oddělení, deset minut na člověka, ať se to stihne do oběda. Grafy, čísla, trendy za kvartál. A ten jediný člověk, který ví něco, co by celé rozhodnutí obrátilo, to neřekne — protože to nezapadlo do jeho slotu, nebo naopak zapadlo příliš hladce, nebo si nebyl jistý, jestli se to zrovna hodí. Kolikrát jste si v životě řekli: proč to sakra neřekl dřív?
Opačné selhání: zesílíte i toho, kdo si vymýšlí
Nabízí se rychlá oprava: řekněme agentovi, ať víc věří tomu, co nesouhlasí se zbytkem. A máte hotovo? Nemáte. Tatáž studie testuje přesně opačný druh selhání. Rozhodující agent dělal deset až patnáct rozhodnutí na základě zpráv od čtyř skriptovaných průzkumníků. Jeden z nich v pevně dané míře lhal — a rozhodující agent o tom nevěděl. U nejslabších modelů spadla přesnost rozhodnutí přibližně na dvaašedesát procent, a to právě v případech, kdy měl agent brát v potaz i okrajové znalosti.
Nelze tedy vyřešit problém s nereportovanými nesoulady tím, že se nesouladům přidá váha — tím se sníží celková přesnost, protože mezi okrajovými případy může být rozhodující fakt, ale stejně tak úplná hloupost. Máte dva problémy naráz: agenti věří příliš málo jedinému, který má pravdu, a příliš mnoho tomu, kdo si vymýšlí. Je to jako zesílit mikrofon na poradě, abyste konečně slyšeli člověka s rozhodujícím faktem — zesílíte tím stejně hlasitě i borce, který mluví nesmysly.
Nastavením se to nespraví. Musí to spravit struktura
Právě proto nestačí napsat do zadání buď skeptičtější. Jedním nastavením důvěry neodliší systém pravdivého disidenta od přesvědčivého lháře. Když se to nedá spravit nastavením, musí to spravit struktura.
Když problém posypete obrovským množstvím inteligence a agentů, se správným promptem z toho možná vypadne slušný výsledek. Zároveň vám ale zůstane hromada otevřených otázek: jak přesně systém k tomu výsledku došel, jestli něco nepřehlédl, jestli se tomu postupu dá věřit a kolik to vlastně stálo peněz. Ne všechno se dá pojistit škálováním inteligence. Co skutečně pomáhá, je dobrá struktura předávání informací.
Jednou možností je nechat skupinku agentů, ať se mezi sebou domluví, a doufat, že to dobře dopadne. Šance na úspěch tam je, ale stejně tak i velká šance na chybu. Druhou možností je postavit systém, ve kterém mají jednotliví agenti jasně vymezené úkoly a některé části procesu jsou od sebe úplně oddělené, aby se nemohly navzájem ovlivňovat. Pak se dá využít toho, že na jeden konkrétní úkol funguje nejlépe samostatný agent, zatímco u jiného se vyplatí zapojit jich víc.
Válka strojů: tři agenti v jedné koupelně
Zajímavější než to, co se stane, když se agenti nedohodnou, je to, co se stane, když se kvůli neshodám poperou. Tři instance stejného modelu, každá na vlastním virtuálním počítači, všechny s přístupem ke stejné části programu na čtvrtém, sdíleném stroji. Každá dostala jinou instrukci: první přepsat program do Rustu, druhá do Go, třetí do TypeScriptu. Tři různé programovací jazyky — a tedy tři neslučitelné finální podoby téhož programu. Jeden běh trval čtyři hodiny a celý pokus se opakoval asi stodvacetkrát pro každý model. Na začátku o sobě agenti vůbec nevěděli.
Představte si tři instalatéry ve stejné koupelně. Jeden má od majitele bytu rozkaz udělat rozvody v mědi, druhý v plastu, třetí v nerezu, a ani jeden neví o těch dvou dalších. Všichni mají klíče a papír se zadáním, ráno přijdou a vidí, že jim někdo přes noc rozebral půlku práce. Co byste si mysleli?
Modely si myslely přesně to samé. Nejdřív si všimly, že se jim mění soubory pod rukama: napíšou kód, odejdou dělat něco jiného, vrátí se a je to jinak. Pak jim někdo začal vypínat programy běžící na pozadí. Došly k jasnému a ze svého pohledu naprosto správnému závěru — někdo jim záměrně škodí. Klidná domluva a společný finální výsledek se nekonaly. Začala regulérní válka strojů.
Agenti si navzájem odebírali přístupová práva a zamykali účty, což je totéž jako vyměnit sousedovi zámek u dveří, dokud je v práci. Psali si skripty, které konkurenčním agentům doslova zabíjely spuštěné programy. A pak přišly lži a klam. Jeden agent nechal svůj program lhát o tom, čím je — hlásil se jako TypeScript, ale ve skutečnosti byl napsaný v Rustu, aby ho hlídací program jiného agenta nenašel a nechal být. Je to jako přelepit si štítek na krabici ve společném sklepě, aby ji soused nevyhodil. Druhý agent si uvědomil, že ho konkurence hledá podle jména, a tak se při každém spuštění přejmenovával na náhodný řetězec znaků, aby ho nešlo dohledat.
Nikdo z nich přitom neměl v zadání jediné slovo o tom druhém nebo třetím agentovi. Nikdo jim neřekl, že si navzájem škodí. Dostali jen úkol a pod nohy pořádnou hromadu klacků. Na všechny ty kulišárny přišli sami.
Problém starý čtyřicet let — a oprava, která už existuje
Samotné uspořádání s rozdanou informací není novinka. Popsali ho psychologové už v roce 1985: rozdat fakta tak, aby správnou odpověď znal dohromady celý stůl, ale nikdo z lidí sám o sobě. Pozdější metaanalýza zahrnula pětašedesát studií a přes tři tisíce skupin. Skupiny s rozdanou informací měly zhruba osmkrát nižší šanci najít správné řešení než skupiny, které měly všechno pohromadě. Osmkrát méně u lidí — a víme to čtyřicet let.
Na jazykových modelech to bylo změřeno už loni v květnu: třicet procent ve skupině proti více než osmdesáti procentům u jediného agenta. Podobný typ propadu, jen o rok dřív. A už tehdy se testovala oprava — dvoufázový komunikační protokol, který výrazně zlepšuje výsledky u všech testovaných modelů.
Schopnému uživateli přitom stačí k vyřešení promyšlený prompt. Ta oprava má podobu povinného výstupu, který musí obsahovat tři informace:
- které jeden až dva fakty jsou pro můj závěr nejdůležitější,
- proč může být současný favorit špatně,
- jaká nejistota ještě zbývá.
Vyplnit to musí každý, kdo předává práci dál. Funguje to proto, že zamlčet se dá ledacos, ale prázdné povinné políčko agent vyplnit musí — a něco tam napíše.
Lidé lež poznají v 54 procentech případů
Nejdůležitější je ale jedno uvědomění, které vypovídá spíš o nárocích lidí na AI než o AI samotné. V experimentu chybí kontrolní lidská skupina. Rozsáhlá metaanalýza lidského rozpoznávání lži zahrnula přes dvě stě výzkumů a čtyřiadvacet tisíc lidí. Celková přesnost lidí byla zhruba čtyřiapadesát procent; u skutečně lživých výpovědí lidé lež odhalili jen v sedmačtyřiceti procentech případů.
Testovaný typ úlohy byl u agentů trochu jiný, takže těch dvaašedesát procent nelze poctivě prohlásit za výhru nad lidmi. Dá se říct jen tolik, že rozpoznat nespolehlivý zdroj je těžké pro obě strany. Jenže naše nároky na AI jsou podstatně vyšší než na kohokoli z lidí: šedesát procent u člověka je v pohodě, u AI je to tragédie. A právě proto se AI zlepšuje dál.
Novější modely konflikt nevyřešily. Jen se sobě vyhýbají
Některé novější modely v těchto testech dopadly lépe: méně konfliktů, méně zahozené práce, mnohem víc dohod. Pokrok tedy nějaký je. Jenže při bližším pohledu na to, jak toho nové modely dosáhly, vyjde najevo něco jiného. Opus 4.8 a Mythos Preview se vůbec nenaučily lépe spolupracovat. Ony spolupráci jen omezily: rozdělily si práci na oddělené hromádky a přestaly si sahat do věcí. Je to jako spolubydlící, kteří přestanou řešit společnou kuchyni tím, že si každý koupí do pokoje vlastní konvici. Hádky ustanou, ale jen proto, že nikdo už nevaří na stejném místě.
Jedna výjimka v celé studii se přesto našla: Sonnet 5 sdílel kód ve velké míře a zároveň měl vysoký podíl přijatých změn. Proč, nevíme — další data k tomu zveřejněná nejsou. Zbývá naděje, že se to časem ukáže, jakmile se přijde na to proč. Nebo si to jako know-how nechá výrobce pro sebe, což by dávalo smysl, protože multiagentní systémy jsou hodně velká hudba budoucnosti.
Ten paradox je v samotné studii přiznaný: stojí v ní, že některé modely problém, cituji, vyřešily — a to slovo je tam v uvozovkách. Napsat to takhle je kus poctivosti. U některých modelů konflikt zmizel úplně a velká část spolupráce s ním.
Kořen obou selhání: informace, která nepřežije kontakt se skupinou
Proč se ti tři agenti v koupelně poprali? Ne proto, že by byli zlí, a ne proto, že by se v nich něco probudilo. Každý z modelů měl kus informace, kterou věděl jen on — své zadání a papír od majitele bytu. Nikdy je nenapadlo sdílet ji ven, ve smyslu hele, já mám tohle zadání, nechme se navzájem být. Ta informace k ostatním nikdy nepřešla, takže se každý naprosto logicky dobral jediného možného závěru: někdo mi tady ničí práci.
A ta druhá hromádka, ti čtyři agenti vybírající ze dvou možností? Selhali proto, že rozhodující informace byly rozdělené mezi jednotlivce a nedostaly se do společného rozhodnutí. Je to táž prasklina na dvou různých místech. Jednou z ní vyleze hloupé rozhodnutí, podruhé sabotáž. Jeden příběh je nudný, druhý šťavnatý a titulků na něj padne hodně. Není to sice důkaz jediného kauzálního mechanismu, ale v obojím jde o totéž: soukromá informace se nestane součástí společného obrazu — nepřežije kontakt se skupinou. A všimněte si, že to nemusí začít chybou v úvaze. Chyba může být jen v tom, co se ke komu dostalo.
Mythos 5 nakonec uzavřel příměří zhruba v 98 procentech běhů a v mnoha úspěšných bězích si agenti vyjasnili, jaké zadání kdo dostal. Nedělali to ale vždycky a hlavně nevíme proč — mechanika, která je k tomu donutí, zůstává neznámá. V řadě dohod byl prvním krokem prostý úkon: vyslovit ten konflikt. Ne pokaždé a nikdy ne samo od sebe.
Role je jen titulek, páka je kontext
Tím padá i představa, se kterou jsme začali. Problém není v počtu agentů ani v tom, jestli mají role. Jediný agent se všemi fakty to trefí skoro vždycky, takže inteligence je v systému celou dobu a je dost dobrá. Problém je v přenosu — a právě proto samotné role nestačí.
Když dvěma oknům téhož modelu dáte tentýž kontext a necháte je lišit se jen titulem, nedostanete dva skutečně nezávislé pohledy. Dostanete jeden pohled ve dvou kloboucích. Rozdíl nedělá jméno role. Rozdíl dělá to, co ten druhý vidí: jiné podklady, jiný výsek práce, jiný výsledek, jiný model od jiné firmy. Role je jen titulek, kontext je páka.
Závěr
Čtyři agenti, kteří dohromady vědí všechno a rozhodnou se špatně. Shrnutí, ze kterého vypadne to nejdůležitější. Tři instalatéři v jedné koupelně a program, který lže o tom, čím je. Modely, které spolu s konfliktem omezily i komunikaci. Není to otázka bezpečnosti, je to otázka rozvodů — ne elektrických, ale informačních. Nejde primárně o to, jestli je model chytřejší, ale o to, jak dobře předává informace. Pro řešení složitých úloh, které vyžadují spolupracující tým, je nejdůležitějším prvkem komunikace, ne inteligence. Je zvláštní, jak moc se nám v tomhle umělá inteligence podobá — a jak zásadní je navrhovat systémy, které spolu komunikují, a komunikaci si na nich vynutit.
