Program zůstává programem. Může řídit stroj, pohánět web, koupit letenku i nadělat paseku na internetu, ale pořád je uzavřený v křemíku, v obrazovkách a v serverech. Jenže co když ten program napíšete jako DNA, necháte ho vytisknout a vložíte do Petriho misky s bakteriemi?
Přesně to se stalo. Umělá inteligence navrhla sekvence DNA drobných virů, chemická syntéza je proměnila v hmotu a šestnáct návrhů se skutečně rozběhlo, našlo si bakterii a zabilo ji. Viry, které předtím nikdy neexistovaly.
Umělá inteligence život nestvořila. Dostala nejlépe popsaný genom světa
Představa, že model vymyslel nový organismus z ničeho, je úplně chybná. Výzkumníci ho pustili do jediné, extrémně úzké a velmi dobře pochopené rodiny virů — bakteriofágů. To jsou viry, které neloví člověka, ale bakterie. A pak to zúžili ještě víc, na jednoho konkrétního zástupce: fága φX174.
Ten je biologicky mimořádně jednoduchý. Jeho genom má 5 386 písmen a jedenáct genů; pro srovnání, lidský genom má zhruba tři miliardy písmen. V biologických měřítkách je to esemeska. A výběr rozhodně nebyl náhodný — φX174 je nejlépe popsaná věc svého druhu na planetě. V roce 1977 ho Frederick Sanger přečetl jako vůbec první genom DNA v dějinách a dostal za to svou druhou Nobelovu cenu. V roce 2003 ho tým kolem Craiga Ventera dokázal celý synteticky poskládat za čtrnáct dní a dodnes ho firma Illumina sype do sekvenátorů jako kalibrační vzorek, kterým se měří vlastní chybovost přístroje. Je to biologické pravítko pro všechny ostatní genomy.
Model vypsal textový soubor, zbytek obstarali lidé
Umělá inteligence neovládala žádné robotické paže ani nemíchala chemikálie. Vygenerovala text — řetězec písmen A, C, T a G. Všechno ostatní udělali lidé: objednali fyzickou syntézu DNA a odvedli manuální práci v laboratoři.
A čísla jsou střízlivější, než by titulky napovídaly. Modely vygenerovaly zhruba 700 tisíc digitálních návrhů, z nichž výzkumníci vybrali 302 k výrobě. Fyzicky se podařilo syntetizovat 285 a z nich fungovalo šestnáct. To je 5,5 procenta z vyrobených a zlomek promile z celkového počtu návrhů. Zní to jako náhoda okořeněná lidskou selekcí — dokud si člověk neuvědomí, o čem to vlastně vypovídá.
V biologii má halucinace fyzickou cenu
Jazykový model halucinuje, protože ho nikdo nezastaví. Napíše nesmysl, který vypadá jako pravda, a v textu to projde — text nemá vlastní obranu proti lži. I program s drobnou chybou většinou dál běží, dokud na tu chybu někdo nenarazí. V biologii je to jinak: posuňte jedno písmeno kódu, protein se špatně poskládá a virus se prostě nesestaví. Neexistuje.
Fyzika je jediný recenzent, který nediskutuje. Nedá se přemluvit a vůbec ji nezajímá, jestli návrh zní sebejistě. Buď se to v misce rozběhne, nebo ne. Právě proto je šestnáct funkčních virů z 285 vyrobených ohromující číslo, ne trapné.
Proč vůbec stavět nové viry: dochází nám munice
Slovo virus většina lidí spojuje s nemocí, takže otázka „proč stavět nové“ je na místě. Odpověď zní: protože nám dochází munice. V roce 2021 byly rezistentní bakterie přímo odpovědné zhruba za milion úmrtí a podílely se na několika milionech dalších. Projekce pro roky 2025 až 2050 počítají zhruba s 39 miliony úmrtí spojených s antibiotickou rezistencí a mezi bakteriálními druhy v té statistice výrazně vyčnívá E. coli.
Problém s antibiotiky je v tom, že antibiotikum je granát. Hodíte ho do rány a vybije všechno v okolí — patogen i vlastní mikrobiom. Proto je člověku po antibiotikách tak blbě. Bakterie se navíc adaptují rychle: postaví si pumpy, které lék vyplivnou zpátky ven, a vyrobí enzymy, které ho rozloží dřív, než stihne cokoli udělat. Pak už zbývá jen sáhnout po silnějším granátu, což znamená ještě větší spoušť.
Fág je proti tomu odstřelovač. Vyvíjel se miliardy let na jediný cíl. Přisedne na stěnu konkrétní bakterie, vstříkne do ní vlastní DNA a promění ji v tiskárnu, která vyrábí jeho kopie. Když je hotovo, bakterie praskne. A když fágovi dojde potrava, je po něm.
Devět fágů a probuzení z kómatu
V roce 2016 ležel na klinice v San Diegu v kómatu Tom Patterson, protože ho zevnitř žrala multirezistentní bakterie a žádné antibiotikum na světě nezabíralo. Jeho manželka, epidemioložka Steffanie Strathdee, obvolala laboratoře po celé zemi a hledala fágy, které by mu zachránily život. Několik jich našla, lékaři mu je nalili do těla a za pár dní se probral z kómatu a poznal svou dceru. Příběh je popsaný v knize The Perfect Predator.
Místo hrabání v kanalizaci knihovna fágů
Nabízí se otázka, proč je vůbec potřeba umělá inteligence, když fágy v přírodě existují. Odpověď: hledat je stíháme mizerně. Když dnes pacient umírá na rezistentní infekci, tým nejde do skladu vybrat si vhodný přípravek — jde do odpadní vody, prohrabuje se kanalizací, bahnem a vzorky půdy a doufá, že náhodou narazí na fága, který loví přesně ten kmen, co zabíjí konkrétního člověka. Je to jehla v kupce sena a ta kupka má datum spotřeby.
Cílem je celý proces otočit. Místo hledání odstřelovačů v bažině je vychovávat v základním táboře: postavit obrovskou a rozmanitou knihovnu syntetických fágů, aby bylo jedno, kterým směrem bakterie zmutuje. Aby na ni vždycky něco bylo — a když nebylo, dalo se to rychle vyrobit.
Evo: modely, jejichž gramatikou je evoluce
Použité modely se jmenují Evo 1 a Evo 2 a jsou to genomové jazykové modely. Architektura je velmi podobná té, na které stojí textové chatboty — jen se mění jazyk. Chatbot se učí statistickou pravděpodobnost lidské gramatiky, Evo se učí na bilionech písmen DNA napříč obrovskou částí známé biologie. Učí se gramatiku, akorát že evoluční.
A tady je zásadní rozdíl. Trénovací data jazykových modelů rediguje internet. Trénovací data Evo redigovaly čtyři miliardy let smrti — každá špatná věta v té knihovně prostě nepřežila a nikdo ji nepředal dál. Je to jediný dataset na světě, který prošel destruktivní recenzí.
Prakticky to znamená, že když jazykový model předpovídá další slovo, snaží se znít logicky pro člověka. Když Evo předpovídá další písmeno, nevědomky předpovídá zákony biochemie: jak se písmena přeloží na aminokyseliny a jak se ty aminokyseliny fyzicky poskládají do trojrozměrného tvaru. Model přitom nemá o proteinech ponětí — pracuje v jednorozměrném textu a hádá další token. Jen se vzorce evoluce naučil tak hluboko, že jeho textové predikce reprezentují trojrozměrnou fyziku, o které neví nic.
Zmáčkli automatické dokončování a model prošel překryvy genů
Výzkumníci dali modelu kousek genomu φX174, tedy začátek, a v podstatě zmáčkli automatické dokončování. Zbytek genomu si dopsal sám. Práce, kterou přitom odvedl, je pro člověka mimořádně náročná — a to kvůli takzvaným překrývajícím se genům.
φX174 má jedenáct genů namačkaných na 5 300 písmenech, a to se tam těžko vejde. Řešení, které evoluce našla, je, že se osm z těch jedenácti genů fyzicky překrývá na stejném úseku DNA. Táž řada písmen se čte ze dvou různých startovních bodů a pokaždé dá jinou smysluplnou větu. Představte si nápis, který se dá číst normálně i po slabikách, a to v obou směrech. Když v něm změníte jediné písmeno, rozbijete několik vět najednou — a každou jinak. Místo si navíc udělat nemůžete, protože obal viru pojme jen asi dvě procenta navíc oproti původní délce, takže genom nenatáhnete. Když se to lidé pokusili rozplést a dát každému genu vlastní kus DNA, výsledek byl o zhruba 900 písmen delší a bez pomoci hostitelské bakterie se už nedokázal udržet naživu.
Opravíte jeden protein a mimoděk rozbijete tři další. Model, který se opírá o statistické váhy naučené z celé biologie, těmito překryvy prošel u všech šestnácti funkčních návrhů — a u těch neúspěšných, kterých byla drtivá většina, necítil žádnou únavu ani frustraci.
Výměna součástky, na které lidé ztroskotali
Zajímavější otázka je, jestli model zvládne i to, kde lidé narazili na zeď. Šlo o výměnu jedné z klíčových součástek — proteinu, který balí DNA dovnitř do obalu viru — za protein z evolučně vzdáleného fága G4. Ten cizí protein je o třináct aminokyselin kratší, tedy úspornější. Lidé to zkoušeli jako stavebnici: vycvakli jednu kostku, nacvakli druhou. Virus se pak nedokázal množit.
Model to vyřešil jinak. Cizí protein tam nenacpal natvrdo, ale přepsal i celé okolí — jemně poupravil genetický kód kolem něj tak, aby kratší součástka v novém těle lépe seděla. Snímky z kryoelektronového mikroskopu později ukázaly, že součástka uvnitř je natočená jinak než v originále a drží na místě kompenzačními mutacemi, které si model dosadil sám. Jinými slovy, upravil si větu tak, aby lépe seděla do kontextu. Zatím nemotorně — ale rychlost vývoje jazykových modelů dává tušit, jak dlouho ta nemotornost vydrží.
Je to nebezpečné? Pojistku sami autoři označili za obejitelnou
V této konkrétní studii nebezpečí nehrozilo. Běžela v uzavřených laboratorních prostorech, v Petriho miskách a v neškodném laboratorním kmeni E. coli, a trénovací data byla záměrně osekaná — z tréninku Evo se vyhodily všechny viry, které napadají člověka a živočichy. Pro tenhle experiment se tím schválně omezilo, jak dobře model umí pracovat s viry napadajícími živočišné buňky.
Jenže tuto pojistku sami autoři popisují jako tak trochu nepovinnou. Doslova píší, že doladěním modelu na konkrétní úlohu se dá opatření obejít a že je k tomu potřeba přistupovat opatrně. Na tak zásadní sdělení je to hodně krátká věta.
Problém měřítka: šestkrát delší znamená stokrát těžší
Druhou brzdou je měřítko. Tom Ellis z Imperial College London, který se syntetickými genomy živí, k tomu poznamenal, že jde o vůbec nejmenší a nejjednodušší genom, jaký se dá navrhnout a vyrobit. Genom covidu je zhruba šestkrát delší, jenže složitost neroste lineárně — šestkrát delší podle něj znamená asi stokrát těžší. A dodal ještě jednu podstatnou věc: navrhovat patogen pomocí umělé inteligence by bylo absurdní, když jich příroda nabízí spoustu hotových.
Zároveň jsme na samém začátku i v tom dobrém smyslu. I kdyby existoval dokonalý fág na superbakterii, nemůžete ho zítra píchnout člověku. Čekají vás testy in vitro, zvířecí modely, klinické studie a regulátor. Ve většině zemí není fágová terapie ani schválenou standardní léčbou a používá se individuálně u lidí, kterým už nezbývá nic jiného. Zatím jde o výzkumný nástroj, ne o léčbu.
Čeho se tedy odborníci bojí: precedentu
Když dnešní verze nebezpečná není, co bezpečnostní komunitu děsí? Především precedent. Evo 2 je otevřený model — a to ne tak, jak bývají „otevřené“ modely, kde dostanete váhy a zbytek si domyslíte. Je pod licencí Apache a veřejně jsou váhy, trénovací kód i celý testovací dataset. Cesta z textového souboru do živé buňky je hotová, popsaná a reprodukovatelná. Někdo jiný může vzít stejnou architekturu a nakrmit ji něčím úplně jiným.
Koktejl proti biologickému kevlaru
Ten paradox pak v samotném experimentu graduje do finále. Co se stane, když nové fágy pustíte na bakterii, která už jednoho takového fága porazila? Výzkumníci smíchali funkční fágy do jednoho velkého koktejlu a pustili ho na kmeny E. coli, které si vypěstovaly rezistenci vůči původnímu φX174 — tedy na bakterie, které si přestavěly povrchové receptory tak, aby se o ně přirozený virus jen otíral. Takový biologický kevlar. Originální fág selhal na všech kmenech, koktejl je rozložil během pěti kol.
Důležitá pointa je ale jiná: fágy, které bakterie nakonec porazily, nebyly čisté návrhy umělé inteligence. Během několika kol se mezi sebou rekombinovaly, tedy zkřížily, a vznikly z nich mozaiky poskládané ze dvou i tří různých designů. Model tu bakterii neporazil sám — dodal evoluci materiál, se kterým mohla pracovat. Šestnáct nových výchozích bodů, dost odlišných na to, aby to obránce nestíhal, a evoluce ji dorazila během pár pokusů.
Táž schopnost, opačné následky
Schopnost, která nám umožňuje předběhnout mutační rychlost superbakterie, a schopnost, která děsí bezpečnostní komunitu, jsou jedna a tatáž: rychle vygenerovat genetickou rozmanitost, se kterou obrana neudrží krok. Následky se ovšem radikálně liší podle toho, jestli je tou obranou povrch bakterie, nebo lidský imunitní systém.
A všimněte si té symetrie. Bakterie se bránila statickou vrstvou — přestavěla si receptor a doufala, že to bude stačit. My se bráníme taky staticky: vyhodili jsme z trénovacích dat živočišné viry a doufáme, že to bude stačit. Obojí je kevlar a obojí prorazí dostatečná rozmanitost. Thomas Inglesby z Johns Hopkins to v komentáři ke studii shrnul elegantně: schopnost skládat virové genomy pomocí generativní umělé inteligence už existuje, správa, která by ji bezpečně řídila, zatím ne.
Úzké hrdlo: někdo to musí vytisknout
Rubikon byl překročen, matematika i váhy jsou venku a odvynalézt se to nedá. Ale vzpomeňme si, čím tenhle příběh začínal: modelem, který vyplivne textový soubor. To je celý jeho výstup. Aby se z textu stala hmota, musí to někdo vytisknout.
Naštěstí má celý řetězec jedno důležité úzké hrdlo. Digitální kód se šíří snadno, jenže syntéza DNA je pořád fyzická služba: vyžaduje poskytovatele nebo specializované zařízení, materiál, laboratoř a člověka, který s tím umí pracovat. Typicky pošlete digitální sekvenci poskytovateli a on vám poštou pošle zkumavku s lyofilizovanou DNA.
Žádná země na světě to zákonem nevyžaduje
Jenže organizace, která mapuje globální trh se syntézou DNA, ve zprávě z letošního června píše, že v době vydání dokumentu žádná země na světě po výrobcích zákonem nevyžadovala, aby kontrolovali sekvence, které mají vyrobit. Žádná země na světě.
Ta kontrola dnes existuje jen jako dobrovolný standard. Ve Spojených státech je navázaná na federální financování, což je páka, ne zákon. Evropská unie loni v prosinci navrhla, aby bylo ověřování sekvencí i totožnosti zákazníka povinné, s hlášením podezřelých objednávek do 24 hodin a s pokutami až do pěti procent celosvětového obratu. Ten návrh je ale pořád ve výboru Evropského parlamentu, takže je to zatím papír, ne zákon — a ani zákon není všespásný.
Dobrovolná kontrola má dvě díry
První díra je zřejmá: sekvenci lze zamaskovat nebo objednávku rozdělit mezi několik firem tak, aby žádná z nich neviděla celý obrázek. Druhá je horší. Kontrola dnes z velké části funguje tak, že software hledá shodu se známým patogenem v databázi — jenže umělá inteligence generuje sekvence, které v žádné databázi nejsou.
Microsoft to loni na podzim otestoval v praxi. Vygeneroval přes 76 tisíc variant proteinů ze seznamu nebezpečných látek a poslal je přes existující kontrolní software. Něco prošlo. Firmy stihly nástroje opravit ještě před publikací studie, ale pointa zůstává. Všimli si toho i lidé, u kterých byste to čekali nejméně: otevřený dopis požadující povinnou kontrolu objednávek DNA podepsali letos v červnu mimo jiné Sam Altman z OpenAI, Dario Amodei z Anthropicu a Demis Hassabis z DeepMindu.
Kontrolovat ne podobnost, ale funkci
Kontrolu je potřeba obrátit naruby: neptat se primárně, čemu se sekvence podobá, ale co dělá. Jestli kóduje toxin, jestli umožňuje vstup do lidské buňky. K tomu ověřování zákazníka, jasná pravidla pro přístup k nejsilnějším modelům, které tohle umožňují, a povinné bezpečnostní testy pro biologickou umělou inteligenci. Zkrátka do fyzického světa přidat obrovské tření, protože digitální svět už žádné nemá. Dostatečně schopná umělá inteligence hranice nemá, což vidíme i u běžného kódu.
Závěr
Dobrá zpráva zní, že není pozdě. Se zrychlujícím se vývojem modelů už máme zkušenost, takže se dá předpokládat, jak rychle se posune i tahle oblast — a je čas s tím něco dělat. Práh jsme překročili, jen jsme si toho nevšimli. Půl století jsme DNA přírody hlavně četli: Sanger ji v roce 1977 přečetl, dostal za to Nobelovu cenu a od té doby jsme ji četli čím dál lépe. Teď už ji i píšeme, v textovém editoru se čtyřmi písmeny.
Bariéra mezi informací a hmotou se přitom rozmazává. Právě ona je zatím nejsilnější pojistkou, kterou proti nejpokročilejší technologii máme: fyzický svět má tření, digitální ne. Úkolem lidstva je to tření neodstranit dřív, než pochopíme, co všechno drží pohromadě.
