FinOps
Traitement par lots
Envoi groupé de requêtes non urgentes, traitées en différé par l'éditeur. En contrepartie du délai, le prix est réduit : 50 % de moins chez OpenAI pour son API Batch, selon sa documentation.
En pratique
Analyser chaque nuit les avis clients de la journée ou résumer un stock de documents ne demande pas de réponse immédiate. Ces traitements peuvent passer en mode différé, moins cher, sans impact pour les utilisateurs.
Termes liés
Maîtrisez vos dépenses IA et pilotez votre ROI.
Commençons par un diagnostic de vos usages et de vos coûts.
SOPTIMA aide les PME et ETI à maîtriser leurs dépenses, leurs usages et la gouvernance de leur intelligence artificielle.