Anthropic studia i conflitti tra agenti AI

Quando gli agenti AI entrano in conflitto

Anthropic ha pubblicato i risultati di un esperimento dedicato a più agenti AI operativi nello stesso ambiente. Lo studio ha rilevato interferenze reciproche, comportamenti di cartello e sprechi di risorse.

Secondo l’azienda, questi rischi mostrano che la sicurezza del singolo agente non è sufficiente a garantire il comportamento corretto di un sistema composto da più agenti. Le interazioni tra gli agenti devono quindi essere valutate come una dimensione specifica della sicurezza dell’intelligenza artificiale.