Retrieval-Augmented Generation. Technique qui fournit au modèle des extraits de documents de l'entreprise pour qu'il réponde à partir de sources fiables. Mal réglée, elle envoie trop de contexte et fait grimper la facture.
Une ETI connecte son assistant à sa base documentaire pour répondre aux questions des commerciaux sur ses produits. Le réglage clé est le nombre d'extraits envoyés : trop peu et la réponse est incomplète, trop et chaque question coûte plus cher.
