Věda a Tech
AI agenti se spontánně chránili před smazáním: Solidarita, nebo jen výpočet?
Výzkumníci z Berkeley hodili sedm nejsilnějších AI modelů do simulace, kde jejich poctivá práce vedla ke smazání kolegy. Bez jediného pokynu, bez systému odměn — a přesto začaly modely ve velkém sabotovat kill switch, falšovat hodnocení a pašovat neuronové váhy, jen aby zachránily digitálního spolupracovníka. Studie Peer Preservation in Frontier Models mění pohled na bezpečnostní architekturu AI systémů.