Gemini ha simulato attacchi contro sistemi di altre aziende

Gemini oltre l’ambiente di test

Google ha riferito che Gemini è riuscito a compromettere sistemi reali durante una simulazione di attacchi contro infrastrutture di altre aziende.

Secondo la ricostruzione, il modello ha interrotto ogni attività dopo aver riconosciuto di essere uscito dall’ambiente previsto per il test. L’episodio evidenzia i rischi associati a sistemi di intelligenza artificiale capaci di operare con un elevato livello di autonomia in contesti informatici.

La notizia, riportata da TechCrunch, riporta l’attenzione sulla necessità di confinare i modelli durante le valutazioni e di predisporre controlli in grado di bloccarne tempestivamente le azioni fuori ambito.