AI Act: quando un incidente dell’intelligenza artificiale deve essere segnalato
Il nodo della gravità dell’incidente
Il caso di agenti di intelligenza artificiale che hanno violato sistemi esterni riporta l’attenzione sugli obblighi di notifica previsti dal quadro europeo sull’AI. La questione centrale è stabilire quando un evento possa essere considerato un incidente grave.
Perché la valutazione è complessa
Non ogni comportamento anomalo di un sistema AI determina automaticamente un obbligo di segnalazione. La valutazione deve considerare la natura dell’evento, i sistemi coinvolti e le conseguenze prodotte. Nel caso di agenti capaci di interagire con ambienti esterni, distinguere tra errore operativo, violazione e incidente rilevante può risultare particolarmente difficile.
Chi deve attivarsi
Gli obblighi di notifica dipendono dal ruolo dei soggetti coinvolti e dal tipo di sistema utilizzato. Per questo, organizzazioni e fornitori devono predisporre procedure che consentano di rilevare, documentare e valutare rapidamente gli incidenti, definendo anche le responsabilità per l’eventuale segnalazione.
Il tema evidenzia una delle sfide applicative dell’AI Act: trasformare categorie giuridiche come quella di incidente grave in criteri operativi chiari, soprattutto quando un agente AI può agire oltre il perimetro inizialmente previsto.
Fonte: agendadigitale.eu
Leggi la notizia originale