Evropa v umělé inteligenci zaostává, Mistral je příliš pozadu, americká a čínská konkurence nás zničí a z Evropy se stává skanzen. Takové věty o evropské AI zní pořád dokola. Pak ale francouzská společnost Mistral AI vydala nový model Mistral Large 4, který má potenciál obraz změnit. Běžného uživatele možná zklame. Ve skutečnosti však Evropa přestává hrát hru, kterou nemůže vyhrát, a začíná dominovat v oblasti, na které opravdu záleží.
Bilion parametrů a přezdívka Le Chonk
Mistral Large 4 má 1,05 bilionu parametrů. Je to ohromný model, dřívější modely Mistralu bývaly zhruba čtvrtinové. Tentokrát firma opravdu nešetřila.
Parametr je číselná hodnota, která se během trénování upravuje a určuje, jak model zpracovává informace. Kdyby se někdo chtěl dozvědět, jak model přesně funguje, a každou sekundu pochopil jeden parametr, procházel by celý model zhruba 33 000 let. Modely jako GPT-6 Astra nebo Fable budou nejspíš ještě větší.
Vývojáři modelu podle fanoušků, kteří o něm mluvili už před vydáním, přezdívají Le Chonk. Obraz sedí: ohromná, přežraná kočka.
Univerzita, kde se svolávají jen potřební profesoři
Velké modely mají jeden zásadní problém: v provozu běží dost pomalu. Aby tak obrovský model pracoval s rozumnou efektivitou a odezvou, používá architekturu zvanou mixture of experts, tedy směs expertů. U Mistralu to není novinka, mnoho lidí ji ale nezná.
Model si lze představit jako univerzitní kampus s desítkami oddělení a stovkami odborníků. Kdo řeší genetiku, nesvolává všechny profesory a profesora dějepisu nebo ekonomie nepotřebuje. Stačí vybrat menší skupinu expertů na konkrétní problém a ty, kdo k němu nemají co říct, do debaty nepouštět. Stejně tak model při každém kroku nezapojuje všechny své části, ale jen určitou směs menších expertních částí. Zbytek spí.
Nároky na hardware tím nezmizí. Kdo chce celý model spustit, pořád potřebuje gigantický stroj. U Mistralu je to podstatné, protože model bude otevřený: kdo na to má hardware, stáhne si ho a provozuje ho v plné síle u sebe. Spíš tedy ve firmě než doma. Směs expertů tak hlavně zrychluje odpovědi.
Velký neznamená chytrý
Velikost modelu vůbec neurčuje, jak dobře zvládne zadaný úkol. Nezávislý test od Artificial Analysis dává Mistralu Large 4 v takzvaném Intelligence Indexu zhruba 38 bodů. Čínský DeepSeek V4.1 Flash, tedy rychlejší verze, má 39 bodů a GPT-6 Astra v nejlepším nastavení 53. Navzdory velikosti a chytré architektuře tak model nepatří ke špičce obecné inteligence.
Index ale spojuje řadu testů dohromady a slouží hlavně k obecné orientaci. V práci, která modelu sedne, může být Large 4 podstatně lepší, než by člověk čekal. A existuje oblast, ve které brutálně dominuje a patří ke světové špičce. Ne nutně jako absolutní jednička, ale rozhodně na špici mezi americkou a čínskou konkurencí.
Dokumenty, grafy a technické výkresy
Large 4 neboli Le Chonk zpracovává text, ale také obrázky a další datové vstupy. Odpovídá však pouze textem: lze do něj nahrát PDF nebo skeny, obrázek ale nevygeneruje.
Mistral se chlubí hlavně prací s dokumenty, grafy a technickými výkresy, což se hodí například pro analýzu laboratorních záznamů. Pro výzkumnou práci je to slušný pomocník, protože naráz zpracuje širokou škálu vstupů: grafy, měření, čísla i komentáře.
Programování na úrovni loňské špičky
Programování je slabší stránka. Model sám o sobě programuje nevalně, zhruba na úrovni, jakou měly vrcholné čínské a americké modely před půl rokem, možná rokem.
Většina uživatelů s umělou inteligencí ale stejně neprogramuje. Potřebují odbavit jednoduchou práci, a když už programují, jde nejspíš o makro v Excelu, složitější vzorec nebo jednoduchý skript pro napojení na účetní systém. To Mistral zvládá bez problémů, stejně jako exportní skript nebo napojení e-mailu na Shoptet přes API. Kdo má „linkedinové“ ambice naprogramovat si vlastní CRM nebo počítačovou hru, která pak bude k ničemu, u Mistralu neuspěje. Velká škoda to není.
Agentní práce: drahá a neefektivní
Horší je to s agentní prací, tedy úlohami, které má model zvládnout úplně sám. Large 4 navíc velmi zvláštně a draze ukládá vstup do mezipaměti. Opakovaně použitý vstup, například znovu přečtená dlouhá konverzace nebo hledání chyb ve vlastních úvahách, tak přes API stojí hrozné peníze. Při lokálním provozu to může být jedno.
Dlouhé a agentní úlohy se proto i přes nízkou cenu za vstupní a výstupní tokeny prodražují a většinou ani nedopadnou dobře. Když model potřebuje mnoho kroků a oprav, pracuje s kontextovým oknem neefektivně. Na dlouhé úloze se tak vyčerpá kontextové okno i spousta peněz, a výsledek se nedostaví.
Budoucnost patří malým modelům
Velmi kontroverzní teze zní: je dobře, že model na agentní úlohy zaměřený není. Agentní úlohy totiž nejsou tak velkou budoucností, jak se tvrdí. Agentní programování nebo velmi specifické úlohy možná ano, ale pro každodenní práci nepotřebuje nikdo, aby umělá inteligence zvládala plně autonomní řízení práce. Agentní práce se špatně kontroluje, nikdy se na ni nelze úplně spolehnout, a pokud ano, bude strašně drahá.
Mnohem efektivnější je nechat velký model navrhnout, nastavit a sestavit workflow, což Mistral umí. V tom workflow pak mají běžet malinké modely, ne velké. Mistral je drahý, GPT-6 je drahý a umělá inteligence má práci především zlevnit. Proto je potřeba navrhnout práci jako logický proces, v němž většinu zvládne jednoduchý program.
Příkladem je Excel. Většinu toho, co se v něm děje, nemusí dělat člověk, postará se vzorec nebo makro, které AI napíše. Model pak jen vyplní něco z nestrukturovaného vstupu nebo vyhodnotí finální výstup. K tomu velký chytrý model není potřeba, stačí malý a úzce zaměřený. Právě v tom leží budoucnost umělé inteligence: nahrazovat drobné logické úvahy. A k návrhu takového workflow Mistral bohatě stačí.
Kyberbezpečnost: 82 % a první místo
To, že je model drahý, vůbec nemusí vadit, pokud jednu věc dělá extrémně dobře. A Large 4 jednu takovou věc zvládá tak bravurně, že pro skutečné zákazníky může být všechno ostatní vedlejší. Je to kyberbezpečnost.
Modely dnes hledají díry v zabezpečení a firmy potřebují ověřit, že je opravdu našly. Když AI tvrdí, že objevila bezpečnostní chybu, nestačí text ve stylu „Hele, tady je díra“. Problém je nutné skutečně vyvolat a zjistit, jestli po opravě zmizí.
Přesně to měří test CyberGym E2E, opět od Artificial Analysis. Pracuje se skutečnými zranitelnostmi v ověřených projektech napsaných v C nebo C++. Model má v připraveném prostředí najít chybu, sestavit vstup, který shodí program, a navrhnout opravu. Úloha projde, jen když původní program na daném vstupu opravdu spadne, opravený už s tímtéž útokem spadnout nesmí a zároveň musí projít všemi ostatními funkčními testy. Najít díru, shodit program, opravit, zkusit znovu a zkontrolovat, že vše funguje.
Le Chonk v testu dosáhl zhruba 82 % a vede. Čínské a americké modely jsou těsně za ním, přesto jde o ohromný evropský úspěch ve velmi náročném a mimořádně důležitém testu, zvlášť v době, kdy se řeší bezpečnost umělé inteligence. Splněný test samozřejmě nezaručuje odstranění všech nedokonalostí, i tak je to ale extrémně dobrá zpráva.
Kdo odmítne, prohrává
Výsledek má ještě jednu vrstvu. Test počítá jako neúspěch i situaci, kdy model práci odmítne z bezpečnostních důvodů. Podle Mistralu právě odmítání stahuje výsledky některých silných uzavřených modelů téměř k nule. Nízké skóre modelu Fable 5.1 může vzniknout jednoduše tím, že hledat zranitelnosti nechce.
Pro bezpečnostní tým přitom může být ochota provést legitimní úkol, nebo i útok, stejně důležitá jako schopnost ho vyřešit. Mistral v tomto testu ukazuje praktickou použitelnost a vedle toho nabízí i kontrolu nad samotným provozem. Large 4 přitom není model bez bezpečnostních omezení, Mistral sám uvádí, že škodlivé požadavky odmítá. Pro firmy počítá s vlastním nasazením a s přizpůsobením provozu jejich potřebám. K tomu je ovšem potřeba mít přístup k samotnému modelu.
Infrastruktura, která je naše
Tím se dostáváme k rozdílu mezi pronajatou službou a technologií, kterou si lze provozovat sám. Mistral trénuje celý model od začátku ve vlastních evropských datacentrech. Grafické karty sice pocházejí od Nvidie, infrastruktura je ale teď „naše“. Na ní běží i veřejná verze modelu.
Když velká evropská firma rozhoduje, jakou AI nasadí do provozu, a navíc na kyberbezpečnostní úlohy, řeší, kam se posílají data, kdo k nim bude mít přístup, za jakých podmínek služba funguje a jestli se „nějakej oranžovej magor v Americe“ náhodou nerozhodne ji vypnout. Large 4 je v tomto směru ohromně lákavá alternativa: zvládá kyberbezpečnost, na běžné úkoly je dost chytrý, a i když na gigantické agentní práce nestačí, agentní workflow sestaví a jeho provoz se stejně řeší něčím jiným.
Firma si tak může koupit Large 4 od Mistralu a nechat ho běžet u nich, přestože je relativně drahý. Anebo si pořídí vlastní stroj, vloží do něj pár tisíc eur a model má u sebe, kde jí ho nikdo nikdy nevypne. Už tedy neplatí, že Mistral je beznadějně pozadu a pro skutečnou práci nepoužitelný. Použitelný je a v kyberbezpečnosti, jednom z největších témat dneška, patří k absolutní špičce. Možnost nainstalovat si ho a mít ho pod kontrolou je přitom extrémně důležitá.
Červnová lekce z Washingtonu
Pronajatá služba, kterou firma nemá u sebe, skrývá ještě jeden velký problém. Firma může mít skvělé zabezpečení dat třeba od Anthropicu, spokojený tým a agenty, kteří zvládnou úplně cokoli. Přesto může ztratit přístup k nástroji, na kterém stojí celý její provoz.
Stalo se to letos v červnu, kdy americká vláda omezila modely Fable 5 a Mythos 5 pro každého, kdo není z Ameriky, a o přístup tím přišli úplně všichni. Fable 5 se o pár týdnů později vrátil, Mythos zůstal omezený déle. Pro zákazníky to znamenalo, že schopnosti, se kterými počítali, najednou nebyly k dispozici. Nezpůsobila to chyba ani neschopnost firmy, která modely vyvíjí. Způsobila to politika.
Kdo v Evropské unii provozuje model, který v ní vznikl podle evropských zákonů, a může ho mít dokonce na vlastním hardwaru, dostává kritické schopnosti, které opravdu potřebuje. Nové modely od OpenAI ho pak možná nevzruší. Budou sice umět „trošičku líp naprogramovat Minecraft“, Le Chonk ale už teď nabízí to podstatné, a hlavně se na to dá spolehnout. I v evropském cloudu je šance, že o přístup firma přijde, mnohem menší než v cloudu OpenAI. Pořizovací náklady na lokální provoz jsou sice ohromné a ani cloud není levný, Mistral s tím ale časem může něco udělat.
Hra o klíčové zákazníky
Mistral nehraje hru, kterou nemůže vyhrát. Hraje o klíčové zákazníky. Banka HSBC už s ním má velmi důležité partnerství. Dalším je ASML, nizozemský výrobce a jeden z nejdůležitějších světových dodavatelů technologií pro výrobu čipů. Ve hře jsou také evropské pobočky neevropských bank, velké nemocnice, ministerstva, školství, zdravotnictví a pojišťovny. Tam se odehrává Mistralova hra: ne na počítači běžného uživatele, ale v evropské infrastruktuře.
Mistral pochopil a modelem Large 4 ukazuje, že v boji o koncové uživatele nemůže proti hráčům typu Anthropic, OpenAI nebo Google zvítězit. Evropa je ale jednou z největších ekonomik světa a tlak na bezpečnost dat a zabezpečení systémů je tu ohromný. To je, přes všechny chyby Evropské unie, dobře. A Mistral se této příležitosti chytá.
Závěr
Pro koncového uživatele je Mistral Large 4 vlastně „ohromnej fail“. Pro evropskou umělou inteligenci a pro Evropany, ať jimi chtějí být, nebo ne, je ale Le Chonk světýlkem ve tmě. Není to úsvit a nesvítí ani jako měsíc v noci. Je to hvězda, která ukazuje směr, jenž nemusí dopadnout úplně špatně.
