I big dell’AI propongono test e controlli prima di nuove capacità

Test e controlli prima di nuove capacità AI

Anthropic, OpenAI e Google DeepMind stanno convergendo su un modello che collega lo sviluppo di nuove capacità dell’intelligenza artificiale a specifiche verifiche preventive.

Quando emergono nuove capacità, il modello prevede l’attivazione di test, misure di mitigazione e controlli indipendenti prima di procedere. L’obiettivo è contenere i rischi associati all’evoluzione dei sistemi di AI attraverso valutazioni e controlli definiti in anticipo.

La proposta sposta quindi l’attenzione dalla sola introduzione delle nuove funzionalità a un percorso condizionato da verifiche tecniche e misure di sicurezza.