Publié le
Lecture : 1 min
Pourquoi l'IA invente des choses (et comment le repérer)
Une fausse citation, un livre qui n'existe pas, une loi imaginaire : les « hallucinations » de l'IA piègent même les experts. Comprendre le phénomène et s'en protéger.
Vous demandez une référence, l'IA vous donne un titre, un auteur, une date. Tout a l'air parfait. Sauf que le livre n'existe pas. C'est ce qu'on appelle une « hallucination » : une réponse fausse, présentée avec assurance.
Pourquoi ça arrive
Un modèle de langage ne consulte pas une base de faits : il produit la suite de mots la plus probable. Quand il ne connaît pas la réponse, il ne « sait » pas qu'il ne sait pas, et complète avec quelque chose qui ressemble à une bonne réponse. Le ton reste le même, sûr de lui, ce qui rend l'erreur difficile à voir.
Les situations à risque
- Les références précises : citations, livres, articles scientifiques, liens.
- Les chiffres : statistiques, prix, dates.
- Les sujets locaux ou récents, peu présents dans ses données.
- Les questions juridiques et médicales.
Comment s'en protéger
- Demandez les sources, puis ouvrez-les vous-même.
- Utilisez un outil qui cite ses sources pour les faits (moteur de recherche avec IA).
- Posez la question autrement : si la réponse change, méfiance.
- Ajoutez dans votre demande : « Si tu n'es pas sûr, dis-le. »
- Pour tout ce qui engage (santé, argent, droit), vérifiez auprès d'un professionnel.
LLM : c'est quoi un « grand modèle de langage » ? L'explication sans mathsQuestions fréquentes
Qu'est-ce qu'une hallucination de l'IA ?
Une réponse fausse ou inventée que l'IA présente comme vraie, souvent avec beaucoup d'assurance.
Peut-on empêcher l'IA d'halluciner ?
On peut réduire le risque en demandant des sources, en vérifiant les faits et en lui permettant de dire qu'elle ne sait pas, mais pas le supprimer totalement.
