Production par un modèle d'une information fausse présentée avec assurance, sans signal d'erreur.
L'hallucination algorithmique désigne la production, par un modèle d'IA générative, d'une information fausse ou inventée présentée avec un degré de certitude apparent élevé, sans aucun signal distinguant cette erreur d'une réponse correcte. Le phénomène découle directement de la nature probabiliste des grands modèles de langage, qui génèrent des séquences statistiquement plausibles plutôt que des faits vérifiés. L'hallucination n'est donc pas un bug accidentel mais une caractéristique structurelle du fonctionnement de ces modèles, ce qui la rend impossible à éliminer totalement, seulement réductible. Pour la gestion des risques, c'est un point déterminant, car le danger ne tient pas seulement à l'existence d'erreurs, mais à leur indétectabilité immédiate et à la confiance trompeuse qui les accompagne. Le mémoire d'AlgoPolis assimile l'hallucination à l'équivalent contemporain de la perte résiduelle de la théorie de l'agence, une fraction des décisions de la machine étant nécessairement aberrante sans qu'on puisse l'anticiper par lecture du code. Les parades incluent l'ancrage sur des sources vérifiées, la vérification croisée, la supervision humaine et la limitation des usages critiques, mais aucune ne supprime entièrement le risque, ce qui complique l'assurabilité des systèmes fondés sur ces modèles.
Un agent de conformité génère un rapport citant un article de réglementation qui n'existe pas, formulé avec la même assurance que les références exactes, ce qui peut tromper un lecteur pressé.
hallucination, hallucination IA, algorithmic hallucination