RAG

Comment fonctionne le pipeline

Vous découpez vos documents en fragments de quelques centaines de mots, vous les transformez en vecteurs et vous les stockez dans une base dédiée. À chaque question, le système récupère les cinq à dix passages les plus proches, puis les injecte dans le prompt du modèle. Le LLM ne devine plus, il reformule une matière que vous lui avez fournie et que vous pouvez citer.

Pourquoi le découpage prime

Un RAG échoue rarement à cause du modèle, presque toujours à cause de la récupération. Des fragments trop longs noient l’information utile, trop courts ils perdent leur contexte. Visez des blocs cohérents, ajoutez les titres de section en métadonnée, puis mesurez la part de passages réellement pertinents dans le top cinq avant de toucher au prompt.

RAG vs fine-tuning

Le fine-tuning apprend un style ou un format, le RAG apporte des faits à jour. Si votre documentation change chaque semaine, réentraîner coûte cher et vieillit vite alors qu’un simple réindexage suffit. Combinez les deux uniquement quand vous avez besoin d’un ton très spécifique en plus d’une base factuelle mouvante, et affichez toujours la source.

Termes associés