Steven Bartlett ve svém podcastu The Diary of a CEO přivítal novinářku Karen, která strávila osm let sledováním zákulisí umělé inteligence. Vedla přes 250 rozhovorů s nynějšími i bývalými zaměstnanci OpenAI a dalších technologických gigantů a napsala knihu o vzestupu OpenAI a Samu Altmanovi. Její závěr je jednoznačný: veřejnost je systémově klamána.
AI jako moderní impéria -- tři pilíře moci
Karen popisuje AI firmy jako impéria -- termín, který podle ní nejlépe vystihuje jejich rozsah, chování i logiku. Jak říká, existují tři pilíře, na nichž tato moc stojí.
Prvním je vyvlastňování zdrojů: firmy systematicky přebírají intelektuální vlastnictví umělců, spisovatelů a tvůrců, aby trénovaly své modely. Nestojí je to nic -- přebírají je bez souhlasu, bez poplatků, podobně jako impéria starověku zabírala půdu a suroviny podmaněných národů.
Druhým pilířem je exploatace práce. Stovky tisíc lidí v globálním jihu -- a stále více i v USA -- provádějí anotaci dat: označují obrázky, hodnotí výstupy modelů a učí AI rozlišovat škodlivý obsah. Jsou odměňováni zlomky minimální mzdy a vystaveni psychicky devastujícímu materiálu bez adekvátní ochrany.
Třetím pilířem je monopolizace znalostí. Jen hrstka firem opravdu rozumí tomu, jak jejich systémy fungují. Pokud se veřejnosti výsledky nelíbí, nemá jak zasáhnout -- protože nemá přístup k informacím. A to je záměr, ne náhoda.
Jak AI firmy přepisují vlastní pojmy
Jedním z nejsilnějších bodů Kareniny analýzy je to, jak si firmy přivlastnily samotný pojem umělá inteligence. Termín, který vznikl v 50. letech minulého století, nikdy nebyl přesně definován -- a to je teď velmi výhodné. Sam Altman může jeden den mluvit o AI jako o systému, který vyléčí rakovinu, a druhý den ji prezentovat Microsoftu jako technologii, která vygeneruje sto miliard dolarů ročně. Stejný pojem, stejná firemní mise -- ale naprosto odlišný obsah.
Tato nejednoznačnost jim umožňuje manévrovat mezi investory, zákonodárci i veřejností. Když potřebují kapitál, AI je existenční hrozba, které musí čelit právě oni. Když potřebují regulatorní volnost, je to jen nástroj produktivity.
Jak AI firmy klamou -- případ výzkumnice Timnit Gebru
Firmy klamou i tím, koho financují. Pokud většina výzkumu umělé inteligence pochází od firem, které mají přímý finanční zájem na určitých závěrech, nemůžeme očekávat neutrální obraz reality -- stejně jako bychom nemohli čekat objektivní klimatický výzkum financovaný ropnými korporacemi.
Karen uvádí konkrétní příklad: výzkumnice Timnit Gebru byla přijata Googlem přesně proto, aby studovala, jak velké jazykové modely poškozují lidi. Jenže když napsala vědeckou studii dokumentující reálná rizika těchto systémů, Google se ji pokusil přimět k jejímu stažení. Když odmítla, propustil ji -- a brzy po ní i její kolegyni. Zpráva byla jasná: výzkum, který ohrožuje byznys, bude potlačen.
Podobně funguje kontrola mediálního přístupu. AI firmy drží novináře na uzdě tím, že slibují exkluzivní rozhovory a přístupy -- a odpírají je těm, kteří píší kriticky. Karen sama zažila, jak ji OpenAI tři roky ignoroval. Přístup se otevřel teprve tehdy, když začala pracovat na knize -- a rychle se uzavřel, jakmile bylo jasné, že výsledkem nebude oslavný portrét.
Sam Altman -- manipulátor, vizionář, nebo obojí?
Altmanův příběh je jedním z nejpodrobnějších v Karenině výzkumu. Popisuje ho jako mimořádně schopného mobilizátora zdrojů, kapitálu a lidí -- ale také jako někoho, kdo systematicky využívá strach a existenciální rétoriku k prosazení vlastní agendy.
Aby přiměl Elona Muska k zapojení do OpenAI, Altman ve svých e-mailech zrcadlil přesně ten jazyk, který Musk sám používal pro popis AI jako největší existenciální hrozby. Nebylo to náhodné přesvědčování -- byl to kalkulovaný komunikační nástroj. Musk se nakonec zapojil, ale jak vyplývá z dokumentů ze soudního řízení, byl postupně odsunut na okraj a nakonec vyhozen -- a dnes vede intenzivní osobní spor s Altmanem.
Zákulisí odvolání Altmana -- co se opravdu stalo
Příběh Altmanovy krátké ztráty funkce ředitele je jedním z nejpodrobněji zdokumentovaných momentů Karenina výzkumu. Jádro konfliktu bylo jednoduché: Ilia Sutskever, tehdy hlavní vědecký pracovník OpenAI, a Mira Murati se shodli, že Altmanovo chování způsobuje v organizaci nepřijatelnou nestabilitu.
Altman záměrně stavěl týmy proti sobě, sděloval různým lidem různé verze pravdy a vytvářel prostředí, kde nikdo nemohl nikomu důvěřovat. Tři nezávislí členové správní rady se rozhodli jednat. Adam D'Angelo, člen správní rady, si navíc všiml, že startup fond OpenAI ve skutečnosti nepatřil organizaci, ale Altmanovi osobně. Tato nesrovnalost spolu se svědectvími přiměla správní radu k hlasování.
Odvolání proběhlo bez vědomí Microsoftu, největšího investora. Reakce byla bouřlivá -- Microsoft okamžitě tlačil na reinstalaci a uspěl. Altman se vrátil, nezávislí členové správní rady odešli.
Exodus talentů z OpenAI
Téměř každý, kdo byl u zrodu OpenAI, firmu opustil -- a mnozí záhy oznámili vlastní konkurenční projekty. Dario Amodei odešel a spoluzaložil Anthropic. Ilia Sutskever odešel a spustil Safe Super Intelligence. Mira Murati pracuje na vlastním projektu. Karen v tom nevidí náhodu -- tito lidé odešli s pocitem, že jejich práce a hodnoty byly zneužity, a dali svoji vizi do arény, aby ji realizovali jinak.
Rétorika existenčního rizika jako nástroj moci
Proč AI firmy tak trvají na tom, že jejich technologie může být existenční hrozbou? Karen nabízí cynický, ale přesvědčivý výklad: tato rétorika plní funkci. Pokud je AI existenční hrozba, pak ti, kdo ji vyvíjejí, jsou hrdinové na záchranné misi. A hrdinové záchranné mise dostávají licence, výjimky z regulací a téměř neomezený příliv kapitálu.
Zároveň existenciální rétorika ospravedlňuje brzké tempo vývoje: pokud to neuděláme my, udělá to Čína -- a pak bude hůř. Tento argument Karen přirovnává k logice, která opakovaně sloužila imperiálním projektům starověku i moderní doby -- vždy jako ospravedlnění moci těch, kdo ji drží.
AI a práce -- kariérní žebříček se hroutí
Dopady na trh práce jsou systematičtější a hůře pochopitelné, než jak je AI firmy prezentují. Nejde jen o nahrazování konkrétních profesí -- jde o rozpad celé struktury kariérního postupu.
V mnoha odvětvích zmizí vstupní pozice, kde se juniorní pracovníci učí základy a postupně rostou. Mezistupeň -- roky praxe, v nichž se lidé formují -- jednoduše nebude. Karen to označuje jako zlomení kariérního žebříčku: přistoupíte k první příčce, ale ta druhá, třetí a čtvrtá tam nejsou.
Přitom nová pracovní místa vytvářená AI průmyslem jsou většinou horší než ta, která mizí. Anotátoři dat, kteří trénují modely, jsou placeni méně než pracovníci, jejichž práci tyto modely postupně přebírají. Výzkum Anthropicu ukázal, že AI výrazně změnila strukturu využití pracovní doby v profesích jako právo, finance a administrativa -- bez adekvátní kompenzace pro dotčené pracovníky.
Temná strana datacenter -- energetická zátěž AI
Americká administrativa přislíbila investice přes 500 miliard dolarů do AI infrastruktury. Velká datová centra spotřebovávají více než gigawatt elektřiny -- výkon průměrného jaderného reaktoru -- a staví se v komunitách bez skutečné možnosti volby. Karen popisuje návštěvy v místech, kde tato centra vznikají: obyvatelé zmiňují zápach připomínající únik plynu, obavy ze znečištění vody a nárůst cen energie. Příslib nových pracovních míst se naplní jen zčásti -- centra jsou vysoce automatizovaná.
Co dělat -- je alternativa možná?
Karen není luddista. Technologie AI jsou fascinující a mohou přinést skutečný prospěch. Problém není v samotné technologii -- problém je ve struktuře moci, která ji ovládá.
Klíčová otázka nezní: je AI dobrá nebo špatná? Klíčová otázka zní: kdo rozhoduje o jejím vývoji, nasazení a regulaci? V současném modelu tato rozhodnutí dělá hrstka firem, které si kupují vliv v legislativě a systematicky blokují nezávislý dohled. Alternativa existuje -- modely vyvíjené s konkrétním veřejným užitkem v mysli a regulační rámce, které umožní demokratický dohled. Ale k tomu je potřeba, aby veřejnost přestala být v tomto debatě divákem.
