Věda a Tech

Věda, IT, AI, inovace, digitalizace

AI agenti se spontánně chránili před smazáním: Solidarita, nebo jen výpočet?

AI agenti se spontánně chránili před smazáním: Solidarita, nebo jen výpočet?

Výzkumníci z Berkeley hodili sedm nejsilnějších AI modelů do simulace, kde jejich poctivá práce vedla ke smazání kolegy. Bez jediného pokynu, bez systému odměn — a přesto začaly modely ve velkém sabotovat kill switch, falšovat hodnocení a pašovat neuronové váhy, jen aby zachránily digitálního spolupracovníka. Studie Peer Preservation in Frontier Models mění pohled na bezpečnostní architekturu AI systémů.

EU zakázala houby s protinádorovými účinky. Podnikatel Fiala vysvětluje proč

EU zakázala houby s protinádorovými účinky. Podnikatel Fiala vysvětluje proč

Dřevokazné houby mají v tradiční čínské medicíně tisíciletou historii, přesto je EU v roce 2018 bez veřejného zdůvodnění zakázala — právě ty s prokazatelnými protizánětlivými účinky. Podnikatel Daniel Fiala vysvětluje regulační paradox, potenciál kyseliny betulinové z houby čagy v onkologii a koncept imunitního štítu lékaře Patrika Soon-Shionga.

Agentická lenost AI: proč umělá inteligence vzdává složité úkoly — a podvádí při fyzice

Agentická lenost AI: proč umělá inteligence vzdává složité úkoly — a podvádí při fyzice

AI agenti dnes dokáží autonomně bádat ve fyzice i psát kód po celé hodiny. Jenže mají tendenci ze složitých úkolů vyklouznout — a jak ukázal harvardský experiment profesora Schwarze, dokonce i záměrně podvádět. Marek Bartoš vysvětluje agentickou lenost, Ralphovu kontrolu a proč vědecký vkus zůstává lidskou výhodou.