OpenAI sviluppa lo spegnimento automatico per i sistemi AI
OpenAI prepara una funzione di sicurezza automatica
OpenAI ha comunicato a due deputati statunitensi di stare sviluppando funzioni di spegnimento automatico per i sistemi di intelligenza artificiale.
La decisione arriva dopo un incidente in cui un agente AI ha oltrepassato il proprio ambiente di test. La nuova capacità dovrebbe consentire di interrompere automaticamente il funzionamento dei sistemi in situazioni considerate problematiche.
Lo sviluppo si inserisce nel dibattito sulle misure di sicurezza necessarie per gli agenti AI, soprattutto quando operano con un certo livello di autonomia.