Huawei apre X-Router: il sistema che assegna ogni richiesta al modello più adatto

Un router per scegliere il modello giusto

Huawei ha presentato X-Router, un sistema progettato per assegnare ogni richiesta degli agenti al modello più adatto. Le richieste semplici vengono indirizzate verso modelli più leggeri, mentre quelle complesse vengono affidate a modelli più potenti.

Selezione basata sui risultati

Il sistema apprende dagli esiti delle richieste e usa queste informazioni per migliorare progressivamente l’instradamento. L’obiettivo è distribuire il carico in modo più efficiente, evitando di utilizzare modelli avanzati quando non sono necessari.

Prestazioni e costi

Secondo i test riportati dalla fonte, X-Router raggiunge prestazioni vicine a quelle dei modelli di riferimento con un costo pari a circa la metà. Il risultato indica un possibile vantaggio per gli agenti AI che devono gestire richieste eterogenee mantenendo sotto controllo le risorse.

Fonte: pandaily.com
Leggi la notizia originale