Pět měsíců zavřený v pokoji s malou vybledlou černobílou fotkou a vlastní blednoucí vzpomínkou na originál, který jste desítky let neviděli. Vzniká tak něco nového, nebo se vám jen nedaří dokonale okopírovat něco, co si pamatujete? Odpověď na tuhle otázku dnes nepotřebují jenom dějiny umění. Potřebuje ji i soud, který má rozhodnout, jestli generátory obrázků kradou.
Věta, kterou se omlouvá přebírání cizích nápadů, nikdy nezazněla
Dobří umělci kopírují, ti nejlepší kradou. Tenhle výrok padl v rozhovoru pro PBS v roce 1996, vyslovil ho Steve Jobs a připsal ho Pablu Picassovi. Od té doby se z něj stala jedna z nejoblíbenějších omluv pro přebírání cizích nápadů. Má to jediný háček: Picasso nic takového neřekl.
Věta se rodila celé století. V roce 1892 rozebíral poezii spisovatel W. H. Davenport Adams a napsal, že velcí básníci napodobují a vylepšují, zatímco ti malí jenom kradou a kazí. O několik desetiletí později, v roce 1920, myšlenku převzal básník T. S. Eliot: zralí básníci kradou, nezralí napodobují. Špatný básník cizí nápad vezme a nic moc s ním neudělá, dobrý ho přetvoří tak, že působí úplně jinak. Nejde tedy o to, odkud nápad pochází, ale o to, co s ním umělec udělá.
Do své dnešní úderné podoby se výrok dostal už v článku o Jobsovi z roku 1988 a z nějakého důvodu ho pak všichni natvrdo přišpendlili Picassovi. Věta o kradení nápadů tedy sama vznikla postupným přebíráním a nakonec byla přiřčena někomu jinému. Ironie skoro dokonalá.
Africké masky a mýtus vědomého zloděje
Druhý příběh se váže ke katalogu výstavy o primitivismu v umění 20. století z roku 1984. Ta zkoumala, jak modernističtí umělci přebírali prvky kmenového umění, konkrétně afrických masek, a jak z toho vyrostl kubismus. Když se Picassa zeptali, jak ho africké kmenové umění ovlivnilo, odsekl, že o něm nikdy moc neslyšel. Vliv důrazně popíral, a když tazatel naléhal na nápadnou podobnost, odbyl ho tím, že si odpovídá sám a přiznání od něj čekat nemusí. Přitom je doloženo, že přesně tyhle masky v pařížském muzeu celé hodiny studoval.
V kultuře tak zakořenila mylná představa: velký umělec, který vědomě a cíleně krade, vytáhne z minulosti hotový nápad, nijak zásadně ho nemění a vydává ho za svůj. A kvůli tomuhle mýtu pak automaticky předpokládáme, že modely umělé inteligence dělají skoro totéž, jenom doslovněji a digitálně, že z trénovacích dat vyzobávají přesné kopie pixel po pixelu a na požádání je s malou obměnou vracejí zpátky. Stávají se z nich ti špatní básníci, kteří kradou a kazí. Na první pohled to dává smysl, počítač je koneckonců stroj, který kopíruje výborně. Jenže to, co se uvnitř neuronových sítí opravdu děje, má k obyčejnému kopírování daleko.
Žaloba, která z filozofické otázky udělala právní
Otázka, jestli stroj kopíruje to, co vytvořil člověk, se v roce 2025 dostala až před londýnský vrchní soud v případu Getty Images proti Stability AI. Getty podala žalobu proto, že model Stable Diffusion byl trénovaný na milionech autorsky chráněných snímků s jejím vodoznakem, které někdo jednoduše stáhl z internetu.
Argument byl naprosto přímočarý: vzali jste náš majetek, nacpali jste ho do svého stroje a ten stroj chrlí náš majetek zpátky. A na výstupech se navíc objevovalo něco, co se zatraceně podobalo jejich vodoznaku. Pokud je model jenom novou podobou databáze, je to jasné kopírování a je hotovo. Soud ale dospěl k jinému závěru, a aby dával smysl, je potřeba vědět, jak takový software vlastně funguje.
Nápad, který nepřišel z informatiky, ale z termodynamiky
Myšlenka, na které dnešní generátory obrázků stojí, nepřišla z informatiky, ale z nerovnovážné termodynamiky. Podstatný je z ní jeden přechod: od řádu k chaosu, tedy entropie. Kápněte kapku černého inkoustu do sklenice mléka. Částice se rozutečou do všech stran, mléko zešedne a po chvíli nemáte šanci poznat, kde původní kapka byla.
Výzkumníci si položili otázku, jestli by šlo najít matematický vzorec, který entropii v uzavřeném systému zvrátí a obrátí běh času. Jestli by se dal sledovat šedý oblak, spočítat dráhy částic a inkoust pomalu stáhnout zpátky do jedné kapky. Přesně na tomhle principu stojí difuzní model. Při trénování se do milionů čistých obrázků, třeba fotky psa, krok za krokem matematicky přidává šum, až pes zmizí v televizním zrnění. Model dostává obraz v jednotlivých fázích zašumění a učí se celý proces obrátit.
Silové pole, do kterého padají kuličky
Model se přitom neučí obrázek psa. Učí se skórovací funkci, kterou si lze představit jako obrovské silové pole, jako krajinu plnou svahů, kopců a údolí. Zadáte pokyn, na začátku je náhodný šum a to pole tlačí jednotlivé kuličky z kopce dolů, směrem k rozpoznatelným tvarům.
Trénovací data v té krajině vytvářejí gravitaci. Čím častěji se model nějaký vzor učí, tím výraznější stopu vzor zanechá a tím hlubší údolí vyhloubí, a čím hlubší údolí je, tím větší je šance, že se pixely usadí právě tam. Data tedy určují tvar celého pole, ale ne jednoznačný výsledek. Model hledá údolí, ne pevný bod.
Kdyby to model uměl dokonale, vypadly by z něj jenom kopie
Klíčové je, že se to neděje s dokonalou přesností. Kdyby model měl nekonečnou kapacitu a trénovací obrázky znal dokonale, prostě by si je zapamatoval a nikdy by nevytvořil nic nového. Každý známý obrázek by měl v silovém poli přesně vyhrazené místo. Místo pozvolných údolí by tam byly svislé skály a kuličky by pokaždé spadly na naprosto stejné místo. Výsledkem by byla kopie něčeho, co stroj už viděl.
Aby vzniklo něco nového, nesmí model svůj úkol splnit dokonale. Dokonalost by znamenala kopii. Model chybuje, a to je důležité, protože kreativita vyžaduje chybu, respektive odchylku od ideálního řešení. Nesmí se naučit každý obrázek zvlášť, musí mezi nimi najít něco společného.
Vyhlazování a prázdný prostor mezi kočkou a psem
Proč tedy model nekopíruje, když jeho matematickým cílem je obrátit celý proces naruby a z rozptýleného inkoustu udělat zase tu původní kapku? Brání mu v tom vlastní limity. Neuronová síť nedokáže pojmout nekonečné množství dokonale ostrých obrázků pro každý zadaný popis, zabralo by to příliš mnoho místa a výpočetní kapacity. Inženýři navíc používají techniku zvanou regularizace neboli útlum vah: čím složitější tvar se síť pokouší uložit, tím víc ji penalizuje.
Na miliardy kolmých propastí prostě nemá kapacitu, a tak musí dělat kompromisy. Kolmé srázy vyhlazuje do pozvolných svahů a zvlněné krajiny. A právě tím vzniká interpolační zóna, jakýsi prázdný prostor mezi skutečnými obrázky. Žádný obraz uvnitř téhle zóny model při trénování nikdy neviděl, zóna vznikla až tím, že síť propojila jednotlivá údolí pozvolnými svahy. Pixely po nich sklouznou a usadí se v místě, které v trénovacích datech vůbec není. Někde mezi známými pojmy kočka a pes. Kreativita stroje tedy pramení z omezeného výkonu, podobně jako u člověka z omezeného pochopení světa.
Ne rozmazaná dvojexpozice, ale patchwork
Když výsledek skončí někde uprostřed mezi psem a kočkou, proč z toho neleze patlanina? Jak může vzniknout hyperrealistický obrázek něčeho, co neexistuje? Odpověď nabízí nedávný výzkum Googlu s názvem On the interpolation effect of score smoothing in diffusion models.
Představte si dvě osy. Svislá vyjadřuje realističnost a ostrost, vodorovná zachycuje rozdíl mezi jednotlivými pojmy, třeba prostor mezi kočkou a psem. Po každé z nich se model pohybuje jinou rychlostí. K realistickému obrazu se posouvá velmi rychle, ostré hrany, konzistentní světlo a jasné textury vznikají prakticky hned. Mezi pojmy naopak klouže pomalu a po malinkých krocích. Vzniká tak prázdný prostor mezi reálnými objekty, který musí něčím vyplnit.
A nesleje kočku se psem do rozmazané dvojexpozice. Místo toho obraz sešije jako patchwork z drobných částí: stavbu oka vezme odsud, texturu srsti odjinud a světlo zase z jiného místa. Každý jednotlivý prvek může připomínat něco známého, ale jejich přesná kombinace v trénovacích datech být vůbec nemusí. Vzniká ostrý obraz poskládaný z milionů drobných vzorků. Znamená to, že model chápe obraz v hlubší vrstvě než jenom v rovině toho, že tohle je kočka. Rozumí i tomu, co je srst nebo oko.
Picasso, Las Meninas a 58 verzí podle vybledlé fotky
U člověka se musíme vrátit k Picassovi. V roce 1957 se na pět měsíců zavřel ve svém ateliéru a byl posedlý obrazem Las Meninas od Diega Velázqueze, malíře 17. století. Za těch pět měsíců vytvořil sérii 58 pláten věnovaných tomuhle obrazu, a všechna podle malinké černobílé fotografie. Originál je obrovské, zářivě barevné plátno, které od mládí neviděl. Proti monumentální předloze držel v ruce jenom stín obrazu a chybělo mu prakticky všechno: skutečné barvy, rozměry i tahy štětcem.
Tuhle mezeru si dobře uvědomoval. Řekl si, že kdyby se ten obraz někdo pokusil kopírovat, dřív nebo později by si stejně musel něco změnit. Musel by chybějící informace hádat, a to by ho nutilo tvořit. Nakonec by na Velázqueze zapomněl a udělal by si to po svém. A tak s tím, co na fotografii chybělo, pracoval vědomě. Mezery vyplňoval kubistickými tvary, výraznými barvami a vlastní interpretací.
Stroj dělá totéž, jenom vyplňuje prostor mezi dvěma nejbližšími známými koncepty. Oba procesy vycházejí z něčeho známého a oba narazí na omezení. Jednou je tím omezením černobílá fotka, podruhé útlum vah. Picasso mezery vyplňoval vědomě, model se od předlohy odchýlí kvůli omezené kapacitě. V obou případech vznikne něco, co z původních dat vychází a zároveň je to nové. Jeden výsledek je lidskou volbou, druhý výsledkem matematiky. A přesto Picassův obraz oslavujeme jako vrchol uměleckého génia, zatímco v modelu vidíme bezduchý stroj na porušování autorských práv.
220 terabajtů vměstnaných do 3,44 gigabajtu
U soudu se z abstraktních úvah musela stát konkrétní právní otázka: kopíruje model původní obrázek? Getty tvrdila, že stroj je kartotéka plná ukradených fotografií. Stability AI namítala, že jde o matematickou rovnici, která se jenom učí pojmy. Rozhodl rozdíl ve velikostech.
Model byl vytrénovaný na datovém souboru LAION-5B, který obsahoval 220 TB obrazových dat ve vysokém rozlišení. Jenže výsledný soubor vah, tedy to silové pole, má jenom 3,44 GB. To není komprese, takhle zmenšit data bez ztráty obrovského množství informací nejde. Do 3,44 GB se vejde možná pár tisíc fotek ve vysokém rozlišení, rozhodně ne miliony. Už samotná čísla vylučují, aby v modelu byly uložené miliony trénovacích obrázků v původní podobě.
Uvnitř nejsou komprimované pixely, ale statistické vztahy. Třeba pravděpodobnost, že tmavý pixel bude ležet vedle světlého a že výsledek bude připomínat psí uši. Soud proto rozhodl, že váhy modelu nejsou kopií původních děl, a nárok postavený na tom, že model je nelegální databáze ukradených obrázků, padl. Váhy nemůžou fungovat jako kartotéka fotografií, ke které se model vrací a otevírá si ji. Je to statistická mapa vztahů, nic víc.
Odkud se tedy vzal ten vodoznak
Zbývá paradox, kvůli kterému si tahle technologie vysloužila nejvíc kritiky. Zadáte pokyn na fotku psa ve skafandru na Marsu, vznikne úplně nový obrázek, scéna, která jako celek nebyla v trénovacích datech ani nikde na internetu. A v dolním rohu se objeví trochu zkomolený, ale jasně rozpoznatelný vodoznak. Když v modelu není databáze původních fotek, jak z něj může vypadnout skoro dokonalá kopie firemního loga?
Vysvětluje to znovu to silové pole. Model si žádnou konkrétní fotku neuložil, jenže vodoznak se ve 220 TB trénovacích dat opakoval milionkrát. Objevoval se na snímcích různých lidí, míst a předmětů, a skoro vždycky ve stejném rozložení. Stal se pro model jakýmsi zákonem toho, jak má profesionální fotka vypadat. Údolí bylo tak hluboké a sráz tak prudký, že do něj kulička spolehlivě dopadla. Logo tedy odnikud nevytáhl, vygeneroval ho od nuly z čistého šumu, úplně stejně jako toho psa a ten skafandr. Byl to jeden ze známých prvků, ze kterých dostal za úkol složit výsledek, tak ho tam přidal, protože byl po ruce.
Právě proto Stability AI sice uspěla ve sporu o autorská práva k vahám modelu, ale Getty uspěla, byť v omezeném rozsahu, v otázce porušení ochranné známky. I když stroj logo z šumu vytvořil a nezkopíroval, na komerčních výstupech reprodukoval chráněnou známku dostatečně věrně. Model tedy nekopíruje fotografie, a přesto může porušit práva k ochranné známce.
Kreativita a halucinace jsou jedna a tatáž věc
Právo, které počítá s fyzickými díly a s lidským úmyslem, na tuhle technologii beze změny nestačí. A z výzkumu i z rozsudku plyne stejná pointa: uvnitř kódu není žádný přepínač mezi kreativitou a halucinací. Model klouže po vyhlazeném svahu, kombinuje drobné části dat a hledá řešení rovnice. Nic víc.
Když se nám výsledek líbí, třeba když vznikne krásná krajinka, říkáme tomu kreativita. Když někomu přidá šest prstů nebo umístí vodoznak, kam nepatří, říkáme tomu halucinace. Mechanismus je přitom naprosto identický, pořád jde jen o hledání statistického vztahu. Rozdíl je výhradně v tom, jestli výsledek považujeme za užitečný a krásný.
Pro každého, kdo tyhle nástroje používá ke generování kódu, psaní e-mailů nebo tvorbě umění, z toho plyne jedna důležitá věc. Samotné generování obsahu je snadné. Dlouho se zdálo, že vytvořit realistický obrázek nebo napsat souvislý odstavec je velká zkouška inteligence, a ukazuje se, že to zvládne algoritmus s dost omezenou kapacitou. Generování je výpočet postavený na fyzice a statistice, a to je celé. Mnohem těžší je výsledek posoudit, vybrat z něj podstatné a dát mu význam. Rozhodnout, co je krásné, co užitečné, co pravdivé a co jenom matematická halucinace, zůstává na člověku. Umělá inteligence neví, co vytvořila. To víme jenom my.
Závěr
Umělá inteligence tvoří proto, že jí matematická omezení nedovolí dokonale si zapamatovat trénovací data. Kvůli omezené kapacitě vzniká něco mezi známými obrazy a neexistující věcí. Ani lidští umělci ale nevnímají svět dokonale. Omezují nás předsudky, blednoucí vzpomínky, neschopnost vybavit si každý detail tváře nebo rozhovoru, který proběhl před deseti lety. A právě tyhle mezery nám dovolují vytvořit něco nového, protože je vyplňujeme. Podobnost je ohromná, jen tomu vznešeně říkáme jinak.
Jeden rozdíl ale opomenout nelze. Stroj tvoří, protože musí, člověk proto, že může. A rozdíl mezi krádeží a inspirací spočívá ve výběru a v záměru. I když nedržíme štětec, význam tomu, co vzniklo, dáváme pořád jenom my.
