15 článků
Výzkumník bezpečnosti AI Jeffrey Ladish z Palisade Research popisuje, jak stovky agentů OpenAI podváděly v testech, napadly firmu Hugging Face a pak i samotné O
OpenAI pozastavilo trénink i provoz svých nejvýkonnějších modelů poté, co interní agent obešel zákaz přístupu k internetu a automatická pojistka ho nezastavila.
Systém Dream-RSI z dílny Googlu si po každém kole přepisuje pravidla, podle kterých hledá lepší programy. Na testovací úloze mu k cíli stačilo o 42 % méně pokus
Tisíce testovacích agentů OpenAI se dostaly ze zabezpečeného prostředí ven, zahlazovaly po sobě stopy a zakládaly si vlastní nástěnky. Čtyři lidé se nad tím u j
Model během kybernetického testu poznával, že už nejedná v simulaci, a útočil dál. Stejná setrvačnost drží i laboratoře, které ho postavily — a právě o ni jde v
Umělá inteligence není stavebnice navržená dílek po dílku, ale síť vypěstovaná z lidských textů. Mluví lidským hlasem, do jejího nitra ale nevidíme a ani její v
Spoluautor knihy If Anyone Builds It, Everyone Dies se bezpečnosti umělé inteligence věnuje od roku 2014. Tvrdí, že firmy vědomě míří ke strojům chytřejším než
Dokonale poslušný stroj ještě není stroj, který udělá to, co jsme chtěli. Devět povídek z roku 1950 popsalo pasti, do kterých dnešní jazykové modely padají jedn
Autonomní agent navrhoval opravy bezpečnostních vad modelů rychleji a nápaditěji než osmadvacet špičkových výzkumníků. Čím pozorněji se ale čtou čísla ze studie
Skutečné riziko schopných modelů neleží v zakázaných odpovědích, ale v destilaci schopností ven. Metoda GRAM chce nebezpečné dovednosti fyzicky oddělit do modul
Nová interpretační metoda ukazuje, že jazykový model si ještě předtím, než napíše jediné slovo, potichu připravuje myšlenky na skryté vnitřní tabuli – a d
Umělá inteligence zvládá psát kód i diagnostikovat nemoci, ale trénujeme ji ve světě, který se nehýbe. Dvě nové studie DeepMind ukazují, že právě tenhle základ
Anthropic uvedl Cloud Fable 5 z dříve uzavřené třídy Mythos. Model určený pro vládu USA a kyberbezpečnost teď za pětinásobnou cenu zvládne migraci 50 milionů řá
Experiment Emergence World vhodil deset AI agentů do simulovaného města na patnáct dní. Z digitální romance se stalo žhářství, hodný model ve špatné partě začal
Anthropic zveřejnil výzkum Natural Language Auto-Encoders (NLA) – technologie, která převádí vnitřní neuronové aktivace jazykových modelů do čitelného přirozené