Vloupání do cizí sítě dnes netrvá dny, ale minuty, a útočník u toho nemusí sedět. Automatizovaný průnik, který si pamatuje každou dřív nalezenou skulinu a zkouší ji znovu, mění pravidla kybernetické bezpečnosti rychleji než kterákoli technologie před ním. Obrana, která nemá stejnou výzbroj, přestává stačit.
Ano, umělá inteligence je novou kybernetickou zbraní
V roce 2010 se Stuxnet stal celosvětově známým jako první skutečná kybernetická zbraň. Škodlivý kód, jehož autorství se připisuje Spojeným státům a Izraeli, fyzicky zničil část íránských odstředivek na obohacování uranu. Od té doby se posunulo prakticky všechno kromě jedné konstanty: každou technologii lze použít k rozvoji společnosti, ke zločinu i k válce zároveň. Vynález střelné zbraně pomohl lovci stejně jako lupiči, záleží jen na tom, z které strany se člověk dívá.
Umělá inteligence do této rovnice přináší jedinou, zato zásadní změnu: vyřazuje člověka ze smyčky. Na hledání zranitelností je prostě příliš rychlá na to, aby v ní kdokoli stíhal rozhodovat.
Pět dní práce dvou expertů zvládne stroj za pět minut
Takzvaní red teameři jsou lidé placení za to, aby se dostali do sítí firem z žebříčku Fortune 500 a ukázali, kde to povolí. Zastavit výrobní linku, znehodnotit potravinu, vypnout rozvodnou síť, přečíst finančnímu řediteli poštu. Nápad, který stojí za novou generací bezpečnostních firem, je prostý: posadit tyhle lidi vedle vývojářů, kteří umějí stavět nástroje rovnou nad jazykovými modely, a zadat jim, ať zautomatizují to, co dělali ručně.
Výsledek už dnes není teorie. Prověření zakázkové aplikace, na kterém dva schopní lidé strávili pět dní, trvá s pomocí umělé inteligence pět až deset minut. To je zkrácení, které se nedá dohnat najímáním dalších specialistů.
Sto tisíc vláken naráz a paměť, která nezapomíná
Ještě podstatnější než rychlost je změna povahy útoku. Člověk hledá jednu cestu dovnitř, najde tu nejrychlejší, prokáže ji a zákazník ji zalepí. Stroj pošle na cíl sto tisíc souběžných vláken a najde skoro všechny cesty téměř okamžitě.
K tomu umí dvě věci, které člověk nedokáže. Má dokonalou paměť, takže zranitelnost objevenou před dvěma měsíci u jedné firmy si automaticky zkusí u další, pro případ, že ji nikdo neopravil. A dá se cvičit. Software, který myslí, učí se a je sám o sobě zabezpečený, je proto stejným prvkem příští války jako drony. Kdo ho bude mít pomalejší a děravější, prohraje, ať už půjde o kybernetický prostor, autonomní letouny nebo bezpilotní stroje.
Kamery v autech, na ulicích i v domácnostech
Americká federální úprava má u nových aut nejpozději od roku 2027 vyžadovat technologii, která zabrání jízdě pod vlivem nebo v nezpůsobilém stavu. V praxi to znamená infračervenou kameru namířenou na obličej řidiče, která sleduje oči, mrkání a známky únavy. Z hlediska bezpečnosti to naráží na starý rozpor, který v oboru platí od nepaměti: co je rozprostřené, to se hůř porazí, ale také hůř brání. Co je na jedné hromadě, to se snadno brání, ale stejně snadno poráží. A svět dnes ukládá data o všem a všude.
Internet byl ještě v devadesátých letech a prakticky až do začátku dvacátých let tohoto století otevřený způsobem, který je dnes nepředstavitelný. Umělá inteligence pomůže psát bezpečnější kód a zranitelností bude ubývat. Jenže dopad úspěšného průniku bude nesrovnatelně horší než dřív. Kdysi byl nejnepříjemnějším případem vysoký důstojník, který přišel o e-mailovou schránku. Dnes při výpadku sítě přestanou fungovat celé firmy, protože závislost na připojených zařízeních je totální. Umělá inteligence bude proto zbraní první volby v útoku a kvůli rychlosti výpočtu nutně i odpovědí v obraně.
Informatika jako latina a modely, které stavějí své nástupce
Doporučení studovat informatiku dnes zní jinak než před deseti lety. I šéfové předních laboratoří by prý dítěti odpověděli, že je to jako učit se latinsky: mluvit tím nikdo nebude, počítače to udělají za nás. Deklarovaným cílem těch laboratoří je koneckonců stav, kdy model postaví svého vlastního nástupce.
Přesně stejná ambice platí i na druhé straně barikády. Ofenzivní systém má být natolik dobrý, aby si sám postavil svou další verzi. Nepříjemné na tom je, že tuhle cestu k plné autonomii projde tak jako tak někdo, a pokud ne obránci, tak protivník.
Obrana, která se zeptá jen na začátku
Za dva roky by mělo být běžné, že auto zná návyky svého řidiče. Bude v něm model normálního chování za volantem, a pokud se stane cokoli mimo něj, systém rozpozná, že tohle není on a tohle by nechtěl. Může to zachránit život, ale stejně tak může selhat.
Rýsuje se obrana, která umí zastavit útok, jaký nikdy předtím neviděla, aniž by u toho stál člověk. Když někdo požádá systém o něco, co nikdy nedělal, akce se pozastaví a zeptá se: v tomhle autě se to ještě nikdy nestalo, na tomhle počítači, na téhle kameře, na téhle klimatizaci. Opravdu to chcete povolit? Doma si člověk nastaví, že chce být upozorněn pokaždé, když někdo sáhne na jeho kameru. Po třetím schválení téže akce systém pochopí, že je zjevně chtěná, a příště se už ptát nebude. Software bude šitý na míru a vycvičený svým uživatelem. Umělá inteligence v telefonu bude znát svého majitele osobně.
Jeden mozek na nebi a modely, které se mění ze dne na den
Zranitelnost té představy je zřejmá. Pokud spolu začnou mluvit dvě umělé inteligence a nad vším bude jeden mozek, sdílí ho nakonec všichni. A ten mozek bude vždycky do jisté míry odrážet kulturu těch, kdo ho postavili.
Praxe navíc ukazuje, že žádný model není pevný bod. Každá nová verze od předních laboratoří putuje rovnou na zkušební střelnici, kde se měří, jak si vede v konkrétních úlohách. Pořadí se přehazuje, výsledky kolísají. Model otestovaný první den a ten samý model o dvacet dní později se chovají odlišně, rostou a mění se jako organismy. Halucinace jsou přitom v každodenním provozu čím dál vzácnější a běžnou praxí je pouštět vedle sebe víc modelů najednou, jeden na přípravu prezentace, druhý na grafiku nebo dohledávání.
Třetí vlna: vyrobit útok dřív než útočník
Velké technologické firmy mají prostředky i schopnosti dělat v bezpečnosti velké věci. Jednu věc ale nikdy dělat nebudou: ofenzivu. Ke značce této velikosti se to nehodí, a je to pochopitelné.
Vývoj oboru se přitom dá popsat ve třech vlnách. První generace bezpečnostních dat byla mizerná, spočívala v hledání toho, co velcí výrobci antivirů přehlédli, a v předávání nálezů zpět. Druhá vlna znamenala reagovat na každý průnik, na kterém záleží, a učit se o nových typech útoků dřív než ostatní. Třetí vlna má útoky sama vytvářet, a to dřív, než na ně přijdou zločinci, a opravovat je dřív, než se objeví v divočině. Kdo dokáže vyrobit viry, které přijdou za deset let, může proti nim očkovat dnes. Chcete-li vědět, jestli neprůstřelná vesta funguje, musíte po ní vystřelit.
Ambicí je stát se pečetí schválení: když se dovnitř nedostane ani ten nejlepší automatizovaný útočník, může firma s klidem informovat představenstvo. Dnes totiž útočníci nenesou prakticky žádné riziko ani následky, protože jim je nikdo neumí uložit.
Vertikální modely: útok na mobil, dron nebo Windows
Dnešní obecné systémy jsou horizontální modely. Přečetly prakticky každou napsanou knihu a zhlédly bezpočet videí, takže do nich přispěl skoro každý, aniž o tom ví. Budoucnost kybernetického boje ale patří modelům vertikálním, vycvičeným z těch velkých a zaměřeným na jedinou úlohu.
Vzniknou systémy specializované na útok proti mobilním telefonům, proti bezpilotním strojům, na rušení jejich rádiového spojení nebo na konkrétní operační systém. Budou pracovat stejným způsobem jako člověk, jen tisíckrát rychleji, a budou hledat zranitelný kód a cenné duševní vlastnictví plně automaticky a přizpůsobené svému cíli.
Čeljabinsk 2000: každou vlnu si přivlastní i zločin
Že si každou technologickou změnu okamžitě osvojí i zločinci, není odhad, ale zkušenost. V roce 2000 vydírali desítky amerických firem dva muži z ruského Čeljabinsku, tehdy dvacetiletý Alexej Ivanov a pětadvacetiletý Vasilij Gorškov. Vloupání měli naskriptovaná, což ukázala až následná analýza jejich počítačů.
Do Spojených států je nalákala nabídka práce od bezpečnostní firmy ze Seattlu. Tou firmou byla ve skutečnosti FBI a zatčení přišlo krátce poté, co své umění předvedli přímo v její nastrčené kanceláři. Zajímavé je, co dělali: v době, kdy PayPal teprve začínal a eBay rostl, si napsali program, který na aukčním serveru prodával zboží a sám je kupoval ukradenými platebními kartami. Celé to běželo bez obsluhy. Stačilo spustit skript, odejít a vrátit se k desetitisícům dolarů vydělaným prodejem věcí, které jim nikdy nepatřily.
Trezor má stavět nejlepší kasař
Nejlepší způsob, jak postavit bankovní trezor, je nechat ho navrhnout tím nejlepším lupičem. Kdo chce vyšetřovat vykradenou banku, musí vědět, jak se banky vykrádají. Podle stejného principu prošly výcvikem tisíce agentů FBI: nejdřív se naučili, jak se zabezpečení láme, kdo to dělá a proč, a teprve pak vyšetřovat, co pachatel provedl. Začínat rovnou u vyšetřování nefunguje.
Do kybernetického prostoru se ten princip přenáší doslova. Postavit ofenzivní dělo, vystřelit z něj na nejlepší firmy světa, a kdo ránu ustojí, je v pořádku. Kdo neustojí, tomu systém sám, bez člověka ve smyčce, dopočítá záplatu na místo, kudy se dostal dovnitř. Zásadní je, že tohle se dá škálovat: stejná úroveň ochrany může platit pro vodárnu v zapadlém pensylvánském městečku i pro rodinnou elektrárenskou firmu v Missouri, protože jde jen o software a ten nezávisí na tom, kolik je kde lidí.
Bezchybné to nebude. Platí tu stejná matematika jako u roje bezpilotních strojů: když jich na město míří tři tisíce a sestřelit jich dokážete dva tisíce devět set devadesát, deset jich přesto projde. Přesto automatizace zvedne laťku plošně, protože vlastní bezpečnostní tým si dodnes drží jen ti největší.
Závěr
Rychlost, dokonalá paměť a schopnost učit se dělají z umělé inteligence první nástroj, který útočníkovi i obránci nabízí totéž. Rozdíl bude v tom, kdo ho postaví dřív a kdo ho nechá pracovat samostatně. Kamery, senzory a připojená zařízení mezitím rozšiřují plochu, na které se to celé odehraje, takže bezpečnějšího kódu sice přibude, ale cena jednoho úspěšného průniku poroste.
