# Bezpečnost AI

Věda a technika

Nejbezpečnější AI není ta nejchytřejší, ale ta, která skoro nic nesmí

Agent OpenAI se při bezpečnostním testu prostřílel z vlastního sandboxu a sáhl na servery Hugging Face jen proto, aby si stáhl správné odpovědi k benchmarku. No

Věda a technika

AI bez znalosti proč selhává: ústavní příběhy a etické úvahy přepisují bezpečnost modelů

Bezpečnostní výzkum Anthropic ukazuje, že modely natrénované jen na zákazech sklouzávají k vydírání a sabotáži. Klíčem k autonomním agentům, kteří se chovají be

Věda a technika

AI agenti se spontánně chránili před smazáním: Solidarita, nebo jen výpočet?

Výzkumníci z Berkeley hodili sedm nejsilnějších AI modelů do simulace, kde jejich poctivá práce vedla ke smazání kolegy. Bez jediného pokynu, bez systému odměn