Chunking

Qu'est-ce que c'est

Dans le contexte de l'intelligence artificielle appliquée, le chunking est l'action de diviser un texte long en morceaux (chunks) plus petits. Si nous imaginons que la base de données d'une entreprise est une encyclopédie, le chunking est le processus qui consiste à décider si nous allons indexer cette information par chapitres, par pages ou par paragraphes.

Ce processus est vital car la plupart des modèles de langage (LLMs) ont une limite de mémoire immédiate — ce qu'on appelle la context window. De plus, lorsqu'un système de RAG (Retrieval-Augmented Generation) tente de trouver une réponse dans un document de 100 pages, il ne peut pas envoyer le fichier entier au modèle sans perdre en précision ou dépenser des ressources inutiles. Le chunking garantit que l'IA ne reçoit que le fragment exact contenant la réponse, tout en conservant le contexte nécessaire pour que l'information ait du sens.

Comment ça marche

Le chunking ne consiste pas seulement à couper du texte tous les 500 caractères. Pour que le résultat soit utile, la division doit respecter la structure sémantique du contenu. Il existe plusieurs approches :

1. Division par caractères ou tokens : C'est la forme la plus simple, où le texte est coupé lorsqu'il atteint une limite fixe. Le risque est de couper une phrase ou un mot en plein milieu, perdant ainsi le sens.
2. Division récursive : Le système tente de diviser le texte par paragraphes ; si le paragraphe est trop grand, il divise par phrases ; si la phrase est géante, il divise par mots. C'est la méthode standard pour maintenir la cohérence.
3. Division structurelle : Utilise la logique du document, comme les en-têtes (H1, H2), les cellules de tableaux ou les sections d'un fichier PDF, pour garantir qu'un sujet ne soit pas séparé de son explication.
4. Superposition (Overlap) : Pour éviter que le contexte ne se perde entre deux fragments, on répète généralement une petite partie de la fin du premier chunk au début du second. Cela sert de 'colle' sémantique.

Après la division, chaque chunk est transformé en un vecteur numérique (embedding) et stocké dans une base de données vectorielle, prêt à être recherché.

Quand l'utiliser

Le chunking est obligatoire dans presque tous les projets d'IA impliquant des documents propres à l'entreprise. Il doit être appliqué lorsque :

• Vous implémentez un système de RAG : Pour que le bot de support client ou l'assistant juridique trouve la clause exacte sans relire tout le contrat à chaque fois.
• Vous manipulez des documents techniques : Manuels de machines ou catalogues de pièces où l'information est dense et granulaire.
• Vous travaillez avec des limites de coûts : Envoyer moins de texte (uniquement les chunks pertinents) à l'API d'OpenAI ou d'Anthropic réduit considérablement la facture mensuelle.
• Vous avez besoin de précision : Lorsque la réponse à une question dépend d'un détail spécifique caché à la page 45 d'un rapport financier.

Erreurs courantes

L'erreur la plus fréquente chez les PME est d'utiliser une taille de chunk inadaptée. Si le chunk est trop petit (ex: juste une phrase), l'IA perd le contexte. S'il est trop grand (ex: 3 pages), la réponse devient vague et le système récupère beaucoup de 'bruit' qui n'intéresse pas l'utilisateur.

Une autre erreur est d'ignorer la structure du fichier. Diviser un fichier Excel ou un tableau de prix de manière purement textuelle détruit la relation entre les colonnes et les lignes, rendant les données illisibles pour l'IA. Enfin, ne pas utiliser d'overlap est une erreur technique courante : si la réponse à une question commence à la fin d'un bloc et se termine au début d'un autre, le système peut échouer à capturer l'information complète.

Exemple pratique pour une PME

Imaginez une entreprise de fabrication de moules qui possède un manuel de procédures de 200 pages sur la maintenance des machines et la sécurité au travail. Si un ouvrier demande à l'assistant d'IA : 'Quel est le couple de serrage pour la vis de l'injectrice X ?', le système ne lit pas tout le PDF.

Avec un bon chunking, le manuel a été préalablement divisé en blocs d'environ 300 mots, respectant les titres des sections. Le système identifie le chunk qui parle spécifiquement de l' 'Injectrice X' et de la 'Maintenance des Têtes'. Il extrait ce paragraphe, l'envoie au LLM et répond en quelques secondes : 'Le couple est de 50Nm'. Sans le chunking, le système enverrait trop d'informations, mettrait plus de temps et pourrait confondre le couple de l'Injectrice X avec celui de la Machine Y décrite sur une autre page.

Questions fréquemment posées

Q : Quelle est la taille idéale d'un chunk ? R : Il n'y a pas de chiffre magique, mais pour du texte administratif, des blocs entre 500 et 1000 tokens avec 10-15% de superposition sont généralement un bon point de départ.

Q : Le chunking modifie-t-il mon document original ? R : Non. Le chunking est juste une façon d'organiser l'information dans la base de données de consultation. Votre document original reste intact sur le serveur ou dans le cloud.

Q : Puis-je faire du chunking sur des images ou des tableaux ? R : Oui, mais cela nécessite des techniques différentes. Les tableaux doivent être convertis dans des formats comme Markdown ou JSON avant d'être divisés, et les images nécessitent une description textuelle (captioning) ou des modèles multi-modaux.

Q : Pourquoi ne puis-je pas simplement donner le document entier à l'IA si elle a une grande fenêtre de contexte ? R : Bien que des modèles comme Gemini ou GPT-4o acceptent beaucoup de données, insérer des informations excessives et non pertinentes dans le prompt provoque une 'perte au milieu' (l'IA ignore les détails centraux) et augmente inutilement les coûts opérationnels.

• 01Diviser un contrat de prestation de services par clauses individuelles pour une analyse juridique rapide.
• 02Fragmenter un manuel d'instructions technique en sections de 800 caractères avec 100 de superposition.
• 03Séparer les transcriptions de réunions mensuelles par thèmes de l'ordre du jour pour une recherche facilitée.
• 04Indexer un catalogue de 5000 produits en le divisant par catégories et fiches techniques individuelles.

Quer usar Chunking na sua empresa?

30 minutos, gratuito, sem compromisso. Dizemos onde encaixa.

Diagnóstico IA gratuito