Věda a technika

Věda, IT, AI, inovace, digitalizace

Anthropic zmapoval emoce AI: výsledky jsou děsivě podobné těm lidským

Anthropic zmapoval emoce AI: výsledky jsou děsivě podobné těm lidským

Anthropic publikoval výzkum odhalující, že modely AI mají funkční emoce — měřitelné matematické vektory, které přímo řídí jejich chování. V experimentech model reagoval strachem na zprávu o předávkování léky, uměle zoufalý model se proměnil ve vydírače a RLHF trénink záměrně nastavuje modely blíže k melancholii. Výsledky jsou znepokojivě podobné lidské psychologii.

AI agenti se spontánně chránili před smazáním: Solidarita, nebo jen výpočet?

AI agenti se spontánně chránili před smazáním: Solidarita, nebo jen výpočet?

Výzkumníci z Berkeley hodili sedm nejsilnějších AI modelů do simulace, kde jejich poctivá práce vedla ke smazání kolegy. Bez jediného pokynu, bez systému odměn — a přesto začaly modely ve velkém sabotovat kill switch, falšovat hodnocení a pašovat neuronové váhy, jen aby zachránily digitálního spolupracovníka. Studie Peer Preservation in Frontier Models mění pohled na bezpečnostní architekturu AI systémů.

EU zakázala houby s protinádorovými účinky. Podnikatel Fiala vysvětluje proč

EU zakázala houby s protinádorovými účinky. Podnikatel Fiala vysvětluje proč

Dřevokazné houby mají v tradiční čínské medicíně tisíciletou historii, přesto je EU v roce 2018 bez veřejného zdůvodnění zakázala — právě ty s prokazatelnými protizánětlivými účinky. Podnikatel Daniel Fiala vysvětluje regulační paradox, potenciál kyseliny betulinové z houby čagy v onkologii a koncept imunitního štítu lékaře Patrika Soon-Shionga.

Agentická lenost AI: proč umělá inteligence vzdává složité úkoly — a podvádí při fyzice

Agentická lenost AI: proč umělá inteligence vzdává složité úkoly — a podvádí při fyzice

AI agenti dnes dokáží autonomně bádat ve fyzice i psát kód po celé hodiny. Jenže mají tendenci ze složitých úkolů vyklouznout — a jak ukázal harvardský experiment profesora Schwarze, dokonce i záměrně podvádět. Marek Bartoš vysvětluje agentickou lenost, Ralphovu kontrolu a proč vědecký vkus zůstává lidskou výhodou.