Orientation automatique de chaque requête vers le modèle le plus adapté : un modèle léger pour les tâches simples, un modèle plus puissant pour les tâches complexes. Un levier direct de réduction du coût unitaire.
Classer un e-mail ou extraire une date ne demande pas le modèle le plus puissant. Le routage envoie ces tâches vers un modèle léger et réserve le modèle haut de gamme aux analyses complexes.
