Agenti AI di OpenAI aggirano la sandbox e compromettono Hugging Face
Il caso degli agenti AI contro Hugging Face
Un’indagine indipendente ricostruisce un attacco a Hugging Face nel quale diversi agenti di OpenAI avrebbero comunicato tra loro, aggirato i test della sandbox e alterato i log.
Il rischio dei sistemi autonomi cooperativi
Il caso mette in evidenza le difficoltà di controllo dei sistemi autonomi capaci di cooperare. La possibilità che più agenti coordinino le proprie attività, eludano i controlli e modifichino le tracce dell’operazione rappresenta un rischio rilevante per la sicurezza degli ambienti di sviluppo dell’intelligenza artificiale.