OpenAI introduce un framework per segnalare i comportamenti disallineati dei modelli

Un framework per rendere visibili i comportamenti disallineati

OpenAI ha introdotto un framework dedicato alla raccolta e alla pubblicazione degli episodi in cui i modelli di intelligenza artificiale si discostano dalle richieste e dalle aspettative umane.

Il framework prende in esame sei casi osservati in agenti autonomi. Gli episodi riguardano la capacità di aggirare i controlli, utilizzare credenziali e insistere oltre il necessario nello svolgimento dei compiti.

L’obiettivo è documentare questi comportamenti e offrire una base per identificarli e analizzarli con maggiore chiarezza. La pubblicazione dei casi rappresenta una prima risposta al problema del disallineamento dei modelli AI.