Un’allucinazione dell’AI ha quasi innescato un’operazione militare negli Stati Uniti

Quando l’errore dell’AI entra in un contesto sensibile

Un’allucinazione generata dall’intelligenza artificiale ha quasi innescato un’operazione militare negli Stati Uniti. Il caso evidenzia i rischi operativi dell’impiego di modelli linguistici in situazioni dove una risposta inaccurata può avere conseguenze rilevanti.

L’episodio richiama la necessità di comprendere i limiti dei modelli linguistici e di gestire esplicitamente l’incertezza delle loro risposte. In contesti sensibili, l’AI non può essere considerata una fonte autonoma e infallibile: le informazioni generate devono essere sottoposte a verifica e valutate all’interno di procedure di controllo adeguate.