DocuChat-RAG : Assistant IA RAG avec mémoire conversationnelle optimisée

Auteur : MOKEMI TCHAKOUTE BAUTREL Duval
Date : Mars 2026

---

Introduction

DocuChat-RAG est un assistant conversationnel intelligent basé sur la génération augmentée par la recherche (RAG), conçu pour répondre aux questions en utilisant exclusivement vos documents personnels. Contrairement aux chatbots généralistes qui peuvent produire des réponses erronées ou spéculatives, cet assistant est contraint de répondre uniquement à partir des documents indexés, ce qui le rend parfaitement adapté aux applications spécifiques à un domaine ou soumises à des exigences de conformité.

Le système renforce la fiabilité grâce à :

• Des contraintes strictes sur les invites pour prévenir les hallucinations
• Une mémoire conversationnelle fenêtrée (5 derniers échanges) pour un contexte optimal
• Une persistance complète de l'historique dans un fichier JSON
• Un support multi-LLM (OpenAI, Groq, Gemini) avec basculement automatique

Les utilisateurs peuvent interagir avec le chatbot via une interface de ligne de commande (CLI) simple et intuitive.

---

Portée du document

Cette publication fournit des instructions complètes sur l'architecture, le fonctionnement et la gestion du système de chatbot basé sur RAG. Elle détaille tous les composants essentiels :

• Ingestion et traitement des documents
• Recherche vectorielle avec ChromaDB
• Construction des invites et prévention des hallucinations
• Gestion de la mémoire conversationnelle (fenêtre glissante)
• Intégration multi-LLM

Outre la description de l'architecture, ce document inclut des instructions pour exécuter l'application, les options de configuration et un jeu de données de test pour valider le comportement du système. Il présente également les limites actuelles et les axes d'amélioration futurs.

---

Description du jeu de données

L'ensemble de données utilisé pour cette application est une collection de 7 documents textuels soigneusement sélectionnés, couvrant des thématiques variées et actuelles :

Ces fichiers forment ensemble une base de connaissances encyclopédique et pluridisciplinaire, permettant à l'assistant de répondre à des questions variées dans des domaines scientifiques et technologiques de pointe.

Limites du jeu de données

• Il n'est pas exhaustif et ne contient aucune information en temps réel
• Il est dépourvu de données numériques actualisables
• Il ne couvre pas les événements postérieurs à la création des documents
• L'assistant ne peut répondre avec précision que si les requêtes correspondent au champ d'application des documents inclus

---

Détails techniques

Pile technologique de base

Architecture du système

                 ┌─────────────────────────────┐
                 │           USER              │
                 │        Ask a Question       │
                 └──────────────┬──────────────┘
                                │
                                ▼
                 ┌─────────────────────────────┐
                 │        QUERY EMBEDDING      │
                 │   Sentence Transformers     │
                 │  (all-MiniLM-L6-v2)         │
                 └──────────────┬──────────────┘
                                │
                                ▼
                 ┌─────────────────────────────┐
                 │        VECTOR SEARCH        │
                 │          ChromaDB           │
                 │   Top-K Semantic Retrieval  │
                 └──────────────┬──────────────┘
                                │
                                ▼
                 ┌─────────────────────────────┐
                 │     RETRIEVED DOCUMENTS     │
                 │       Relevant Chunks       │
                 │ (chunk_size=500, overlap=50)│
                 └──────────────┬──────────────┘
                                │
               ┌────────────────┴────────────────┐
               ▼                                 ▼

    ┌───────────────────────┐         ┌─────────────────────────┐
    │  CONVERSATION MEMORY  │         │        PROMPT           │
    │                       │         │      CONSTRUCTION       │
    │ Windowed Memory (5)  │         │ Context + Question      │
    │ JSON Chat History    │         │ Memory + Instructions   │
    └─────────────┬─────────┘         └──────────────┬──────────┘
                  │                                  │
                  └──────────────┬───────────────────┘
                                 ▼
                    ┌─────────────────────────┐
                    │           LLM           │
                    │  OpenAI / Groq / Gemini│
                    │  Grounded Generation   │
                    └─────────────┬───────────┘
                                  │
                                  ▼
                       ┌─────────────────────┐
                       │     FINAL ANSWER    │
                       │  Grounded Response  │
                       └─────────────────────┘

---

Aperçu des principaux composants

---

Présentation détaillée des principales capacités

1. Ingestion intelligente des documents

Au démarrage de l'application, le système charge automatiquement tous les documents .txt présents dans le répertoire data/.

Pipeline d'ingestion :

1. Chargement : Lecture des fichiers avec encodage UTF-8
2. Chunking : Découpage avec RecursiveCharacterTextSplitter (chunk_size=500, overlap=50)
3. Embeddings : Conversion en vecteurs 384 dimensions via all-MiniLM-L6-v2
4. Stockage : Persistance dans ChromaDB avec identifiants uniques

2. Recherche sémantique avec seuils configurables

La recherche documentaire utilise la similarité cosinus avec indexation HNSW (Hierarchical Navigable Small World) pour une recherche instantanée.

3. Mémoire conversationnelle optimisée

L'application implémente une mémoire personnalisée via WindowedFileChatHistory :

class WindowedFileChatHistory(FileChatMessageHistory):
    """Retourne seulement les 5 derniers échanges au LLM,
       mais persiste tout l'historique dans un fichier JSON."""
    
    def __init__(self, file_path: str, k: int = 5):
        super().__init__(file_path)
        self.k = k
    
    @property
    def messages(self):
        all_messages = super().messages
        # Garde les derniers k échanges (k*2 messages)
        return all_messages[-(self.k * 2):]

Bénéfices :

✅ Contexte limité = coût tokens constant

✅ Historique complet persistant (JSON)

✅ Reset automatique pour chaque session de test

4. Support multi-LLM avec basculement automatique

L'application détecte automatiquement la clé API disponible parmi :

OpenAI : GPT-4o, GPT-3.5-Turbo

Groq : Llama-3, Mixtral

Google : Gemini Pro

5. Prévention des hallucinations par contraintes

Le prompt système inclut des contraintes strictes :

Constraints:

• Only answer questions based on the provided documents.
• Only answer questions based on the provided documents and conversation history.
• If the user's question is not related to the documents, say
  "The question is not answerable given the documents".
• Never answer a question from your own knowledge.

6. Gestion centralisée de la configuration

Tous les paramètres sont configurables via variables d'environnement (.env) :

Sélection du fournisseur LLM

Seuils de distance et top_k

Taille de la fenêtre mémoire (k)

Niveaux de journalisation

Flux de données
Flux d'ingestion des documents

            ┌───────────────────────┐
            │   data/ directory     │
            │   Raw Text Documents  │
            │   (.txt files)        │
            └───────────┬───────────┘
                        │
                        ▼
            ┌───────────────────────┐
            │   Document Loading    │
            │   UTF-8 File Reader   │
            └───────────┬───────────┘
                        │
                        ▼
            ┌───────────────────────┐
            │     Text Chunking     │
            │ chunk_size = 500      │
            │ overlap = 50          │
            └───────────┬───────────┘
                        │
                        ▼
            ┌───────────────────────┐
            │  Embedding Generation │
            │ SentenceTransformers  │
            │ 384-dim vectors       │
            └───────────┬───────────┘
                        │
                        ▼
            ┌───────────────────────┐
            │      ChromaDB         │
            │     Vector Store      │
            │ Persistent Storage    │
            └───────────────────────┘

Flux de traitement des requêtes

            ┌───────────────────────┐
            │      User Query       │
            └───────────┬───────────┘
                        │
                        ▼
            ┌───────────────────────┐
            │     Query Embedding   │
            └───────────┬───────────┘
                        │
                        ▼
            ┌───────────────────────┐
            │   Vector Search       │
            │      ChromaDB         │
            │       top_k = 3       │
            └───────────┬───────────┘
                        │
                        ▼
            ┌───────────────────────┐
            │   Retrieved Context   │
            └───────────┬───────────┘
                        │
                        ▼
    ┌───────────────────────────────┐
    │        Prompt Assembly        │
    │  (Context + User Question)    │
    └───────────┬───────────────────┘
                │
                ▼
        ┌──────────────────┐
        │   LLM Generation │
        │ (Grounded Answer)│
        └──────────┬───────┘
                   ▼
          ┌────────────────┐
          │    Response    │
          └────────────────┘

Conversation Memory
(last 5 exchanges)
│
└────────────► Injected into Prompt

Exemple d'interaction

Exemple 1 : Intelligence Artificielle

Exemple 2 : Questions de suivi (test mémoire)

Exemple 3 : Informatique quantique

🚀 Démarrage rapide

Suivez ces étapes pour installer et exécuter DocuChat-RAG sur votre machine.

---

1. Cloner le dépôt

git clone https://github.com/Mcduval/docuchat-rag.git
cd docuchat-rag

2. Créer un environnement virtuel

python -m venv venv
source venv/bin/activate  # Linux/Mac
venv\Scripts\activate     # Windows

3. Installer les dépendances

pip install -r requirements.txt

4. Configurer la clé API

cp .env.example .env

Éditer .env avec votre clé (OpenAI, Groq ou Google)

5. Ajouter vos documents

Placez vos fichiers .txt dans le dossier data/

6. Lancer l'assistant

python src/app.py

🧪 Ensemble de données de test et scénarios

Voici des exemples de questions à poser à l'assistant, organisées par thématique :

---

🤖 Artificial Intelligence

---

🧬 Biotechnology

---

🌍 Climate Science

---

⚛️ Quantum Computing

---

🚀 Space Exploration

---

🌱 Sustainable Energy

---

📊 Data Science

---

🔄 Questions de suivi (test mémoire)

Limites actuelles et améliorations futures

🔴 Limites identifiées

🟢 Améliorations futures

GitHub : https://github.com/Mcduval

LinkedIn : https://www.linkedin.com/in/mokemi-tchakoute-bautrel-duval

Email : bautrelduval@gmail.com

Licence
Ce projet est distribué sous licence MIT