Hallucination
Réponse fausse ou inventée produite par une IA générative, mais formulée avec assurance et vraisemblance.
Les modèles de langage génèrent le texte le plus probable à partir de ce qu’ils ont appris ; ils ne vérifient pas les faits. Ils peuvent donc inventer une référence, un chiffre ou une citation avec beaucoup d’aplomb.
Pour limiter ce risque : fournir au modèle des sources fiables (par exemple via une approche RAG), lui demander de citer ses sources, et faire relire par un humain toute information importante avant diffusion.