Arriva SAFE, il framework per gli incidenti degli agenti AI
Un linguaggio comune per gli incidenti degli agenti AI
Oltre 120 organizzazioni stanno lavorando a SAFE, un framework pensato per segnalare gli incidenti e i quasi incidenti causati dagli agenti di intelligenza artificiale.
L’obiettivo è definire regole comuni di controllo e fornire un riferimento condiviso per descrivere ciò che accade quando un agente AI opera in modo inatteso o produce un risultato problematico.
Perché segnalare anche i quasi incidenti
Il framework considera non solo gli eventi che hanno già prodotto un danno, ma anche i quasi incidenti. Raccogliere entrambe le categorie può aiutare a individuare i rischi e a rendere più coerenti i processi di controllo degli agenti AI.
La partecipazione di oltre 120 organizzazioni segnala l’esigenza di un approccio comune alla sicurezza e alla gestione operativa di questi sistemi, mentre il loro impiego continua a diffondersi.