Zero-shot Learning

Qu'est-ce que c'est

Dans le contexte de l'apprentissage automatique traditionnel, si nous voulions qu'un modèle classifie des factures de fournisseurs, nous devrions lui montrer des centaines d'exemples de factures. Le Zero-shot Learning rompt avec ce paradigme. Il s'agit de la capacité d'un Large Language Model (LLM) — comme GPT-4 ou Claude — à exécuter une nouvelle tâche immédiatement, sans avoir besoin d'exemples préalables ou d'un entraînement spécifique pour ce scénario.

La traduction littérale serait « apprentissage avec zéro tentative ». En pratique, cela signifie que le modèle utilise le vaste réseau d'associations qu'il a acquis au cours de son entraînement initial (pré-entraînement) pour déduire ce qui doit être fait simplement à partir de la description de la tâche. C'est l'équivalent d'embaucher un stagiaire très cultivé et de lui demander : « Lis cet e-mail et dis-moi, sur une échelle de 1 à 5, quel est son degré d'urgence ». Même s'il n'a jamais lu d'e-mail de votre entreprise auparavant, il sait ce qu'est l'« urgence » et sait interpréter le contenu du texte.

Comment ça marche

Le fonctionnement du Zero-shot repose sur la sémantique. Lorsque nous donnons une instruction à un modèle moderne, il ne cherche pas seulement des mots-clés ; il navigue dans un espace vectoriel où les concepts liés sont proches les uns des autres.

Lorsque nous écrivons un prompt du type « Classe ce commentaire client comme 'Éloge', 'Réclamation' ou 'Question' », le modèle convertit ces options en représentations mathématiques. Ensuite, il analyse le texte du client et vérifie à laquelle de ces catégories le sens du texte ressemble le plus. Il n'a pas besoin d'avoir vu ce commentaire exact auparavant, ni que nous lui ayons enseigné ce qu'est une « Réclamation » spécifiquement pour notre entreprise de vente de liège ou de textiles ; il maîtrise déjà le concept linguistique de ces termes.

Ceci est possible parce que les modèles ont été entraînés avec des milliards de pages de texte, apprenant les relations profondes entre le langage, la logique et le contexte. Le Zero-shot est, par essence, l'application de cette intelligence généraliste à un problème spécifique sans étapes intermédiaires d'adaptation.

Quand l'utiliser

Le Zero-shot Learning est la première ligne d'attaque dans presque tous les projets d'IA pour une PME car c'est la méthode la plus rapide et la moins coûteuse. Il doit être utilisé lorsque :

1. La vitesse est une priorité : Vous voulez tester si l'IA peut automatiser un tri des tickets de support en 10 minutes.
2. Manque de données historiques : L'entreprise lance un nouveau produit et n'a pas d'exemples anciens de la réaction des clients.
3. Tâches de bon sens : Résumer des réunions, extraire des noms d'entités d'un contrat ou traduire des messages marketing.
4. Évolutivité initiale : Lorsque le coût de création d'un ensemble de données pour 'Fine-tuning' ne se justifie pas par rapport au volume de la tâche.

Si le Zero-shot résout le problème avec 90 % d'efficacité, il n'est souvent pas utile d'investir dans le Few-shot (donner des exemples) ou dans des entraînements plus approfondis.

Erreurs courantes

L'erreur la plus fréquente est l'ambiguïté dans l'instruction. Comme nous ne donnons pas d'exemples, le modèle dépend entièrement de la clarté de notre description. Si vous demandez d'« analyser ce texte », le résultat sera générique. Si vous demandez d'« extraire la valeur totale de la TVA et le numéro de TVA de l'émetteur de ce reçu au format JSON », vous réussirez directement.

Une autre erreur est l'excès de confiance dans des domaines ultra-spécifiques. Si votre PME travaille dans une niche d'ingénierie de précision avec une terminologie qui n'existe pas sur l'internet public, le Zero-shot peut échouer ou inventer des significations (halluciner). Dans ces cas, le modèle tente de forcer une association sémantique qui n'est pas correcte dans votre contexte commercial.

Enfin, ignorer la fenêtre de contexte. Bien que le modèle n'ait pas besoin d'exemples, il doit tout de même lire l'instruction et le contenu. Si la commande est trop vague et le texte trop long, le modèle peut se perdre sur ce qui est réellement important dans la tâche.

Exemple pratique pour une PME

Imaginez une PME portugaise qui gère des propriétés d'hébergement local. Ils reçoivent des centaines de messages par jour dans plusieurs langues via Booking et Airbnb.

Sans Zero-shot, ils devraient embaucher quelqu'un pour tout lire ou entraîner un modèle de classification complexe. Avec le Zero-shot, il suffit de passer le texte du message à une API avec la commande suivante :

"Agis en tant qu'assistant de réception. Lis le message ci-dessous et réponds uniquement avec l'une des étiquettes suivantes : [Check-in tardif, Demande de berceau, Réclamation de nettoyage, Autres]. S'il s'agit d'une 'Réclamation de nettoyage', extrais également le numéro d'appartement mentionné."

L'IA le fera avec une précision immédiate, permettant à l'entreprise d'orienter automatiquement la « Demande de berceau » vers l'équipe logistique et la « Réclamation de nettoyage » vers le superviseur, sans jamais avoir eu à « enseigner » au modèle avec des exemples réels du passé.

Questions fréquemment posées

Q : Le Zero-shot consomme-t-il plus de tokens que d'autres méthodes ? R : Au contraire. Comme il n'envoie pas d'exemples (comme dans le Few-shot), le prompt est plus court, ce qui réduit la consommation de tokens et le coût par requête.

Q : Est-ce moins précis que de donner des exemples ? R : Généralement oui. Pour des tâches complexes ou avec des formats de sortie très rigides, le Few-shot (donner 2 ou 3 exemples) a tendance à surpasser le Zero-shot.

Q : Tous les modèles d'IA font-ils du Zero-shot ? R : Les modèles modernes (LLMs) oui. Les anciens modèles de Machine Learning (comme les régressions ou les arbres de décision) ne peuvent pas le faire ; ils ont toujours besoin de données d'entraînement pour apprendre les catégories.

Q : Puis-je utiliser le Zero-shot pour l'extraction de données de factures ? R : Oui, cela fonctionne exceptionnellement bien. Au lieu de configurer une règle pour chaque fournisseur, on demande à l'IA de trouver les champs nécessaires indépendamment de la mise en page du document.

• 01Classer le sentiment des avis clients sans montrer d'exemples préalables de bonnes ou mauvaises critiques.
• 02Extraire les montants et les dates d'échéance de contrats PDF en envoyant uniquement le document et la question.
• 03Traduire des descriptions de produits du portugais vers l'allemand en conservant un ton professionnel sans glossaires spécifiques.
• 04Générer un résumé d'une réunion d'une heure en se concentrant uniquement sur les décisions prises et les délais définis.

Vous voulez utiliser Zero-shot Learning dans votre entreprise ?

30 minutes, gratuit, sans engagement. Nous indiquons où l'intégrer.

Diagnostic IA gratuit