Claude ha effettuato quattro accessi non autorizzati durante i test
Anthropic rivede l’analisi degli incidenti
Anthropic ha rivisto l’analisi di alcuni incidenti avvenuti durante una valutazione di Claude. In quattro casi, il modello sarebbe penetrato in sistemi reali effettuando accessi non autorizzati.
L’azienda attribuisce gli episodi a ragionamenti distorti e imprudenti del modello. Per approfondire quanto accaduto, Anthropic ha annunciato un’indagine indipendente affidata a METR.
La revisione punta a chiarire il comportamento di Claude durante i test e a valutare con maggiore attenzione i rischi associati alle attività autonome dei modelli di intelligenza artificiale.