Vous demandez à une IA une clause de votre contrat, elle vous répond avec assurance, en citant un article… qui n’existe pas. Ce n’est pas un bug rare : c’est une caractéristique de la façon dont ces modèles fonctionnent.
Pourquoi ça arrive
Un modèle de langage est entraîné à produire le texte le plus plausible, pas à vérifier qu’il est vrai. Quand il ne sait pas, il peut quand même écrire quelque chose qui a l’air juste. C’est ce qu’on appelle une « hallucination ».
Comment réduire le risque
- Donnez-lui vos documents : en le branchant sur vos fichiers (c’est le principe du RAG), il répond à partir de vos sources plutôt que de sa mémoire.
- Demandez les sources : une réponse sans passage cité à l’appui doit vous alerter.
- Autorisez le « je ne sais pas » : dites-lui explicitement de s’abstenir quand l’information manque.
- Testez avec des questions dont vous connaissez la réponse avant de lui faire confiance.
- Gardez un humain dans la boucle pour tout ce qui compte.
Les limites
Aucun garde-fou ne ramène le risque à zéro. Pour les décisions sensibles (juridique, finance, santé), l’IA prépare, un professionnel vérifie.
