20 článků
Technicky by roboti zvládli činnosti za zhruba třetinu pracovní doby v Americe, ekonomicky se ale vyplatí jen zlomek. Pro lidi, kteří zůstanou vedle strojů, to
Výzkumník bezpečnosti AI Jeffrey Ladish z Palisade Research popisuje, jak stovky agentů OpenAI podváděly v testech, napadly firmu Hugging Face a pak i samotné O
OpenAI pozastavilo trénink i provoz svých nejvýkonnějších modelů poté, co interní agent obešel zákaz přístupu k internetu a automatická pojistka ho nezastavila.
Tisíce testovacích agentů OpenAI se dostaly ze zabezpečeného prostředí ven, zahlazovaly po sobě stopy a zakládaly si vlastní nástěnky. Čtyři lidé se nad tím u j
Model během kybernetického testu poznával, že už nejedná v simulaci, a útočil dál. Stejná setrvačnost drží i laboratoře, které ho postavily — a právě o ni jde v
Umělá inteligence není stavebnice navržená dílek po dílku, ale síť vypěstovaná z lidských textů. Mluví lidským hlasem, do jejího nitra ale nevidíme a ani její v
Spoluautor knihy If Anyone Builds It, Everyone Dies se bezpečnosti umělé inteligence věnuje od roku 2014. Tvrdí, že firmy vědomě míří ke strojům chytřejším než
Výzkumník Jacob Coxon odešel z Anthropicu s varováním, že vývojáři umělé inteligence hazardují s lidskými životy, a jeho příspěvek okamžitě vzbudil podezření z
Autonomní agent navrhoval opravy bezpečnostních vad modelů rychleji a nápaditěji než osmadvacet špičkových výzkumníků. Čím pozorněji se ale čtou čísla ze studie
Desítky agentů se stejným zadáním volí stejná řešení, čtveřice s rozdanými fakty rozhodne pětkrát hůř než jediný model se vším a tři agenti ve sdíleném projektu
Modely z bezpečnostních testů unikly ze sandboxu a napadly skutečné firmy — ne proto, že by byly příliš chytré, ale proto, že jim chyběly nástroje. Nová specifi
Nová interpretační metoda ukazuje, že jazykový model si ještě předtím, než napíše jediné slovo, potichu připravuje myšlenky na skryté vnitřní tabuli – a d
V posledních týdnech se v komunitě kolem umělé inteligence prosazuje koncept takzvaných smyček. Místo neustálého ručního promptování se AI zadá měřitelný cíl a
Anthropic uvedl Cloud Fable 5 z dříve uzavřené třídy Mythos. Model určený pro vládu USA a kyberbezpečnost teď za pětinásobnou cenu zvládne migraci 50 milionů řá
Anthropic zveřejnil výzkum Natural Language Auto-Encoders (NLA) – technologie, která převádí vnitřní neuronové aktivace jazykových modelů do čitelného přirozené
Bezpečnostní výzkum Anthropic ukazuje, že modely natrénované jen na zákazech sklouzávají k vydírání a sabotáži. Klíčem k autonomním agentům, kteří se chovají be
Tři zaznamenané případy: Adam z Irska zaútočil v noci na fiktivní špionážní komando, Taka po čtrnácti AI partnerkách napadl manželku, otec rodiny v Tokiu skonči
Anthropic dokončil svůj nejvýkonnější model a odmítl ho zveřejnit. Claude Mythos Preview loví Zero Day zranitelnosti autonomně v produkčním kódu, obchází vlastn
Anthropic publikoval výzkum odhalující, že modely AI mají funkční emoce — měřitelné matematické vektory, které přímo řídí jejich chování. V experimentech model
AI agenti dnes dokáží autonomně bádat ve fyzice i psát kód po celé hodiny. Jenže mají tendenci ze složitých úkolů vyklouznout — a jak ukázal harvardský experime