Anthropic presenta FlashProve per verificare l’origine delle risposte AI

Una prova crittografica per le risposte dei modelli AI

Anthropic ha rilasciato FlashProve, un prototipo open source progettato per affrontare il problema della verifica dei modelli di intelligenza artificiale ospitati.

Il progetto utilizza prove crittografiche per dimostrare che una risposta è stata generata dai pesi dichiarati di un determinato modello, senza rendere pubblici quei pesi. In questo modo, la verifica dell’origine dell’output può avvenire senza esporre direttamente i componenti interni del sistema.

FlashProve si concentra quindi sulla possibilità di controllare la provenienza delle risposte prodotte da modelli AI messi a disposizione tramite servizi ospitati, un contesto in cui gli utenti normalmente non possono ispezionare l’implementazione o i parametri utilizzati.

Fonte: unite.ai
Leggi la notizia originale