Le RAG et les limites d’un LLM – Guide Sydologie ChatGPT

Qu’est-ce que le RAG ?

Le RAG est une approche qui permet d’enrichir les réponses des modèles de langage avec des informations externes. En d’autres termes, c’est comme donner à ChatGPT accès à une base de connaissances personnalisée. Cette technique combine deux éléments clés :

• La « récupération » (retrieval) : recherche d’informations pertinentes dans une base de documents
• La « génération augmentée » : utilisation de ces informations pour produire des réponses plus précises et contextualisées

Comment fonctionne le RAG ?

Le processus se déroule en plusieurs étapes :

1. Préparation des documents : vos documents sont découpés en petits morceaux appelés « chunks »
2. Vectorisation : chaque chunk est transformé en vecteur numérique (une représentation numérique de notre texte) qui capture son sens pour l’IA
3. Stockage : ces vecteurs sont stockés dans une base de données.
4. Recherche : quand une question est posée, le système recherche les chunks les plus pertinents
5. Génération : le LLM utilise ces informations pour produire une réponse précise et contextualisée

Les avantages du RAG

• Une réduction significative des hallucinations car le modèle s’appuie sur des sources vérifiables
• La possibilité de traiter de grandes quantités de documents en les découpant intelligemment
• Un accès dynamique aux informations pertinentes sans surcharger le contexte du modèle
• Un meilleur contrôle sur les sources utilisées et la traçabilité des réponses