U umělé inteligence a matematiky se pořád dokola řeší dvě otázky. Umí jazykový model opravdovou matematiku, nebo jen sebejistě skládá dohromady to, co už někde četl? A dá se jeho výsledkům věřit, když víme, jak často si podobné modely vymýšlejí? Možná ale řešíme špatný problém.
Nedávno padla otevřená úloha z teorie grup — taková, která některým matematikům pomohla vybudovat kariéru a jiné na roky zastavila. Nevyřešil ji člověk s doktorátem ani tým placený univerzitou, vyřešil ji stroj. Elektřina spotřebovaná při výpočtu stála zhruba dva tisíce dolarů. Právě tahle částka mění zadání: nejde už o to, jestli je umělá inteligence dost chytrá, ale o to, co se s matematikou stane ve chvíli, kdy najít správnou odpověď přestane být tou nejtěžší zkouškou.
Deset problémů, na které odborníci deset let neznali odpověď
OpenAI oznámila, že její interní systém Astra, který zatím nevydala veřejnosti, vyřešil deset významných otevřených problémů v matematice. Nejsou to těžké úlohy z učebnice, u kterých se dá čekat, že je model někde okoukal. Jde o otázky, na které odborníci nejméně deset let neznali odpověď, a pocházejí z osmi různých oblastí — od kvantové složitosti přes teoretickou informatiku až po diskrétní geometrii.
Pro představu stačí dva příklady. Ten první je zmíněný problém z teorie takzvaných sofických grup, otevřený od devadesátých let. Velmi zjednodušeně jde o to, jak popsat mimořádně složité nekonečné symetrie, vzorce, které se donekonečna opakují.
Čtyřicet let stará jistota, která neplatí
Druhý příklad je jiného druhu. Systém se nepouštěl jen do otázek, na které dosud nikdo neznal odpověď — prověřil i tvrzení, které matematici desítky let považovali za správné. Connesova hypotéza rigidity pochází z roku 1980 a týká se složitých operátorových algeber a geometrických struktur. Podstatné je, že na ní matematici za čtyřicet let postavili celou řadu dalších výsledků.
A stroj k ní našel protipříklad. Jinými slovy ukázal, že předpoklad, ze kterého velká část oboru vycházela, jednoduše neplatí.
Za cenu ojetého MacBooku a s kontrolorem každého kroku
Zpátky k té ceně. Když DeepMind před několika lety mapoval pomocí AlphaFoldu struktury bílkovin, potřeboval na to obrovský specializovaný výpočetní výkon. Tady padly problémy, se kterými si lidé roky nevěděli rady, za cenu ojetého MacBooku. A nešlo o bezhlavé zkoušení jedné možnosti po druhé — systém sám rozpoznával, kudy by mohla vést správná cesta. Nehádal, spíš šel po stopě.
Jak ale víme, že si tu stopu jenom nevyhalucinoval? Jazykové modely přece umějí s naprostou jistotou tvrdit úplné nesmysly. Proč tedy matematici v těch důkazech dávno nenašli chybu?
Odpovědí je Lean, program na formální ověřování důkazů. Představte si ho jako mimořádně přísnou kontrolu matematické logiky. Když programátor spustí chybný kód, program se zastaví a ohlásí chybu. Lean velmi podobně kontroluje důkaz krok po kroku. Nedovolí přeskočit nepohodlné místo ani schovat mezeru v argumentaci za větu, že něco je přece zřejmé. Každý závěr musí přesně vyplývat z toho, co mu předchází. Nezáleží na tom, kdo důkaz napsal ani jakou má ten člověk pověst — důkaz kontrolou buď projde, nebo neprojde.
A jak přimějete jazykový model, aby takový důkaz vytvořil? Necháte ho s Leanem spolupracovat. Model navrhne další krok, Lean ho přijme nebo odmítne. Když krok neprojde, model zkouší jiný, takže se nevydá nekonečně slepou cestou. Tohle se dá opakovat miliardkrát, dokud nevznikne celý logicky platný důkaz. Model hledá cestu, Lean kontroluje, jestli každý krok sedí. Odpověď na první otázku z úvodu je tím jasná: umělá inteligence už matematiku dělat umí a její postup je možné formálně zkontrolovat.
Jaká role zbývá matematikovi
Tím se ale otevírá otázka mnohem nepříjemnější. Když stroj napíše důkaz a jiný program ho ověří, jaká role zbývá člověku? Na univerzitách to už není filozofická hříčka. Expert na strojové učení Jean-François Puget řekl bez obalu, že kdyby se dnes rozhodoval, kam jít na doktorát, čisté matematice i teoretické informatice by se vyhýbal. Šel by spíš do něčeho experimentálního — do laboratorního výzkumu nebo robotiky.
Proč tam? Protože skutečný svět vždycky klade odpor. Něco v něm prostě nefunguje. Máte v něm takové zbytečnosti, jako je gravitace, tření a spousta proměnných, které se odmítají chovat podle našich představ. Nasimulovat tohle všechno je strašně drahé a složité. V čisté matematice se naopak celý problém dá popsat pomocí symbolů a logických pravidel — a přesně v takovém prostředí je umělá inteligence jako doma. V reálném světě ještě ne.
Roky práce proti jedinému víkendu
Co to znamená pro konkrétního člověka, ukazuje příběh Henryho Yuena, informatika z Kolumbijské univerzity. Problému spojenému s teorémy o kvantovém paralelním opakování věnoval část svého doktorátu. Nebyl to pro něj jeden úkol ze seznamu — strávil s ním několik let a spojil s ním velkou část své odborné práce.
Astra ho vyřešila během jednoho víkendu. A nedokázala přitom srozumitelně vysvětlit, jak k řešení dospěla; prostě předložila důkaz. V matematice přitom pracujete především s vlastní hlavou. Když vás stroj v problému, kterému jste věnovali roky, předběhne za dva dny, nepřijdete jen o výsledek. Otřese to i vaší představou o hodnotě vaší vlastní práce.
Proč truchlit, ptá se druhý tábor
Matematik Scott Armstrong z Newyorské univerzity to vidí úplně jinak. Jsme podle něj pořád jen trochu chytřejší lidoopi, kteří se snaží pochopit, jak funguje vesmír. Matematika nikdy neměla být pomníkem lidské geniality — má nám pomáhat hledat pravdu o tom, jak vesmír funguje. Pokud jsme si postavili nástroj, který to zvládne rychleji, proč truchlit?
Puget tedy radí vyhnout se matematice a informatice, Armstrong říká, že je to důvod k radosti. Blbé je, že kus pravdy mají oba.
Most na druhý břeh
Co tedy může umělá inteligence vědě skutečně přinést? Představte si, že zkoumáte supravodiče a další krok vaší práce stojí na matematickém důkazu, který zatím nikdo neumí sepsat. V takové chvíli pro vás spor o budoucnost matematiků není vůbec podstatný. Potřebujete jen, aby se výzkum posunul dál.
A věda se takhle zadrhává neustále. Výzkumníci často intuitivně tuší, jak se bude chovat složitý biologický systém nebo kvantový stav. Vidí obrysy odpovědi, ale neumějí ji podložit formálním důkazem — takže se nemohou hnout z místa. Vědí, kde leží druhý břeh, jen se k němu nedokážou dostat a postavit formální most. Systémy jako Astra takový most dokážou vytvořit během vteřin. A výsledek nemusíte přijímat jen na dobré slovo, protože každý krok kontroluje Lean. Přesně v tom je ohromný přínos.
Správnost, důležitost a porozumění nejsou totéž
Znělo by to jako happy end, jenže má to háček. Lean dokáže poznat, jestli je důkaz správný. Nedokáže poznat, jestli někomu stojí za přečtení. Správnost, důležitost a porozumění totiž nejsou totéž. Proč některé správné výsledky změní svět, zatímco jiné nikoho nezajímají?
Vezměte si rovnici E = mc². Její síla není v tom, že platí a že je krátká, takže se vejde na tričko. Její síla je v tom, že dokážeme pochopit, co znamená, a využít to třeba v jaderných elektrárnách. Právě proto, že je pro nás čitelná, ukázala nám nový vztah mezi hmotou a energií a změnila náš pohled na svět. Jeden z důkazů, které Astra vytvořila, má oproti tomu 249 stran husté formální logiky. Lean může potvrdit, že každý krok sedí, ale žádný člověk nedokáže celý důkaz sledovat jako jednu souvislou myšlenku. Dostanete správný výsledek, ale ne porozumění, které s dobrým důkazem přichází. Je to jen polovina práce.
Bharath Ramsundar, informatik s doktorátem ze Stanfordu, to přirovnává k recitování. Matematika podle něj není výrobní linka, na které záleží jen na počtu surových výsledků; smysl má i cesta, během níž věci pochopíte. Stroj může védy odříkat tisíckrát rychleji než člověk. Bude rychlejší recitátor, což ale neznamená, že nám pomůže lépe porozumět.
Představit si to jde přesně na Pythagorově větě. Je to jedna z nejdůležitějších matematických vět, které lidstvo objevilo — kdybychom ji neznali, obrovská část dnešní techniky, stavebnictví i fyziky by nevypadala tak, jak ji známe. A přesto je pro většinu lidí jen poučkou. Vědí, že platí, někteří ji dokážou odříkat, ale na otázku, proč je převratná a jak zásadně změnila svět, většina odpověď nemá. Nedokážou si ji napsat na tabuli a obdivovat její krásu a užitečnost, protože ji nikdy skutečně nepochopili. A přesně tohle teď hrozí i vrcholným matematikům. Stroj může vyprávět jednu pravdivou větu za druhou a nejlepší matematici světa se na ně budou dívat stejně, jako se dnes dívá žák deváté třídy na Pythagorovu větu.
Pravdivý balast a nové úzké hrdlo
Co se stane, až takových správných, ale možná bezvýznamných výsledků nebudou desítky, ale tisíce? Tady se objevuje problém, kterému se dá říkat pravdivý balast. Známe AI slop, zaplavení balastem — teď přichází balast, který je navíc pravdivý. Jsou to výsledky správné, ověřené a logicky bezchybné, které ale nikam nevedou.
Představte si systém, který běží ve dne v noci a každý týden vytvoří tisíce nových teorémů. Výsledkem může být důkaz, že jistý zvláštní geometrický objekt opravdu existuje v třiasedmdesáti rozměrech, aniž by to mělo jakýkoli dopad na fyziku nebo další výzkum. Takový výsledek není chybný, jen je možná úplně k ničemu. Nebo v sobě naopak skrývá něco důležitého, co zatím nevidíme — a dokud se v tom někdo nepovrtá, nedozvíme se to. Každý takový důkaz totiž nese razítko správnosti a na první pohled může vypadat slibně.
Někdo proto musí posoudit, jestli se v něm něco důležitého neskrývá. Stroj ho vytvoří za chvilku, člověk nad ním může strávit týdny, dokonce celý život. A tady vzniká nové úzké hrdlo, opět lidské, ale úplně jiného druhu. Matematické články už dnes posuzuje poměrně malá skupina specialistů a nad jedním důkazem mohou strávit celé týdny. Na tenhle problém upozorňuje i Leidenská deklarace. Co se stane, až jim začnou chodit tisíce formálně správných, ale možná zbytečných důkazů? Někdo je pořád musí přečíst, zasadit do souvislostí a zjistit, jestli jsou k něčemu dobré. Úzké hrdlo se přesunulo od vytváření důkazů k posuzování, jestli mají vůbec smysl.
Kdo rozhodne, kam postavíme terč
Tím se vracíme k otázce z úvodu. Až přestane být nejtěžší najít správnou odpověď, nejtěžší bude poznat, které otázky vůbec stojí za řešení. A to není úkol na proklikání, protože logická správnost vám neřekne, na čem záleží.
Dlouho jsme si mysleli, že nás stroje připraví o nápady tím, že je budou kopírovat. Možná nám je vezmou, ale úplně jinak — spotřebují čas, který jsme dřív věnovali jejich vymýšlení. Probírat se nekonečným proudem správné, ale zbytečné matematiky zabere přesně ty hodiny, které dřív patřily původnímu výzkumu. Místo určování směru budeme čím dál častěji jen třídit to, co vyrobil stroj.
A platí se ještě jedna, méně nápadná cena. Když budou matematici většinu času kontrolovat, jestli se stroj trefil, kdo bude rozhodovat, kam postavíme terč? Kdo vybere problémy, které opravdu stojí za vyřešení? Čím dál častěji to mohou být firmy, které ty modely vyvíjejí a provozují. Přirozeně sáhnou po otázkách, na kterých se jejich systém dobře předvede — ne nutně po těch, které jsou pro vědu nejdůležitější. Věda sama často neví, které věci důležité jsou, dokud se v nich někdo nepovrtá. Nejde tedy jen o to, že stroj začne odpovídat. Může taky postupně rozhodovat, na co se vůbec budeme ptát. A taková změna může proběhnout tak potichu, že si jí nikdo ani nevšimne.
Závěr
Poznání, pokrok, léky, očkování, internet, telegraf, knihtisk i porozumění lidské mysli — všechny tyhle věci vznikají, když otázky pokládá člověk. Možná se tedy neblíží doba, kdy nám budou správné odpovědi chybět. Možná jich naopak budeme mít tolik, že se přestaneme ptát.
