Les réponses et les explications de chaque question s’affichent ici une fois le parcours terminé. Elles renvoient alors vers la fiche du glossaire correspondante, où la notion est traitée en entier avec son exemple chiffré.
1. Un cabinet emploie un grand modèle de langage pour pré-analyser des contrats d'assurance. Les synthèses sont fluides, mais le modèle introduit parfois des clauses inexistantes. Quelle tâche ce modèle exécute-t-il en réalité ?
Il prédit le token le plus probable compte tenu du contexte qui précède
Un grand modèle de langage est entraîné sur d'immenses corpus de texte pour une tâche unique et apparemment modeste : prédire le mot suivant, ou plus exactement le token suivant, compte tenu du contexte qui précède. De cette tâche émergent des capacités complexes, rédaction, traduction, résumé, raisonnement apparent, génération de code, et l'architecture dite transformeur lui permet de pondérer l'importance relative des différents éléments d'un texte. Cette mécanique explique directement le comportement observé. Le modèle ne recherche pas, ne vérifie pas et ne compare pas : il produit la suite la plus plausible. Une clause inexistante mais parfaitement idiomatique est donc, du point de vue du modèle, un excellent résultat, puisqu'elle est exactement ce qu'un contrat de ce type contient d'habitude. La fluidité de la sortie ne dit rien de sa véracité, et c'est précisément parce que les deux sont indépendantes que la relecture humaine ne peut pas être supprimée.
Fiche du glossaire →2. Un agent de conformité produit un rapport citant un article de réglementation qui n'existe pas, formulé avec la même assurance que les références exactes. Comment faut-il qualifier ce comportement ?
Une caractéristique structurelle du fonctionnement de ces modèles, réductible mais non éliminable
L'hallucination algorithmique est la production d'une information fausse ou inventée, présentée avec un degré de certitude apparent élevé et sans aucun signal la distinguant d'une réponse correcte. Le phénomène découle directement de la nature probabiliste des grands modèles de langage, qui génèrent des séquences statistiquement plausibles plutôt que des faits vérifiés : ce n'est donc pas un défaut accidentel mais une caractéristique structurelle, impossible à éliminer totalement et seulement réductible. Deux conséquences en découlent pour qui déploie ces outils. La première est qu'attendre une version corrigée est une stratégie sans terme, puisque le défaut tient au mécanisme et non à sa mise en œuvre. La seconde est plus grave : l'absence de signal distinctif rend l'erreur indétectable à la lecture, une citation fabriquée ayant exactement la même allure qu'une citation exacte. C'est ce qui déplace la charge vers la vérification systématique des références plutôt que vers la relecture du style.
Fiche du glossaire →3. Un assistant interne répond aux employés en s'appuyant sur la base documentaire de l'entreprise plutôt que sur ses seuls paramètres. Quelle surface d'attaque cette architecture ouvre-t-elle ?
Un document corrompu glissé dans la base peut détourner l'assistant, sans aucune intrusion dans le modèle
La génération augmentée par récupération combine un grand modèle de langage avec une recherche documentaire : plutôt que de répondre à partir des seules connaissances figées dans ses paramètres, le modèle interroge d'abord une base de documents pertinents puis fonde sa réponse sur les extraits récupérés. L'intérêt est double et réel, ancrer les réponses sur des sources vérifiables et actualisées, ce qui réduit sensiblement le risque d'hallucination, et permettre au système de raisonner sur des informations privées ou récentes que le modèle n'a jamais vues. Mais l'architecture déplace la confiance : la base devient ce qu'il faut sécuriser, plus que le modèle. Un document corrompu glissé dans le corpus peut porter une instruction cachée qui détourne l'assistant, et l'attaque ne suppose aucune intrusion dans le modèle lui-même, seulement le droit d'ajouter un fichier. Pour un assureur, cela déplace la question de souscription du fournisseur de modèle vers le contrôle d'accès en écriture sur la documentation interne.
Fiche du glossaire →4. Une entreprise spécialise un modèle de fondation sur ses propres dossiers pour automatiser le traitement des réclamations. Quel risque particulier cette opération fait-elle naître ?
Le modèle peut restituer, dans ses réponses, des données confidentielles présentes dans les dossiers d'entraînement
Le réglage fin consiste à spécialiser un modèle déjà pré-entraîné en lui faisant suivre un entraînement complémentaire sur des données ciblées, propres à une tâche ou à un domaine. Plutôt que d'entraîner depuis zéro, ce qui exigerait des ressources colossales, on capitalise sur les connaissances générales déjà acquises et on les oriente vers un usage précis, analyse de contrats, diagnostic, traitement de réclamations. C'est cette technique qui a démocratisé l'usage de l'intelligence artificielle en la rendant accessible à des organisations qui n'auraient jamais pu construire un modèle. Le risque propre à l'opération tient à ce qu'elle inscrit les données d'entraînement dans les paramètres eux-mêmes : un réglage fin mal maîtrisé amène le modèle à restituer, dans ses réponses ordinaires, des éléments confidentiels présents dans les dossiers qui ont servi à l'entraîner. La fuite ne passe alors par aucune base de données et par aucune intrusion, elle passe par le modèle, ce qui la rend difficile à détecter et impossible à reprendre une fois le modèle diffusé.
Fiche du glossaire →5. Le terme de modèle de fondation a été popularisé en 2021 par des chercheurs de Stanford. Qu'est-ce qui définit un tel modèle ?
Un modèle conçu pour servir de socle adaptable à une multitude d'applications en aval
Un modèle de fondation est un modèle de très grande taille, entraîné sur des volumes de données massifs, et conçu non pour une tâche unique mais pour servir de socle adaptable à une multitude d'applications en aval, du dialogue à la rédaction de code en passant par l'analyse d'images. Les chercheurs de Stanford qui ont popularisé le terme en 2021 ont souligné en même temps sa puissance et son risque, et les deux viennent de la même propriété. La puissance tient à la mutualisation : un même modèle pré-entraîné se réutilise et se spécialise à faible coût, ce qui met l'intelligence artificielle à portée d'organisations qui n'auraient jamais pu en construire une. Le risque tient exactement à la même chose vue de l'autre côté : quand des dizaines d'outils différents s'appuient sur le même socle, une faille de raisonnement commune à ce socle produit la même erreur chez tous simultanément. C'est une accumulation, au sens que l'assurance donne à ce mot, et elle est invisible dans les données historiques parce qu'elle n'existait pas avant.
Fiche du glossaire →6. Un système refuse d'indemniser un sinistre sur un raisonnement que ni l'assuré ni l'assureur ne peuvent reconstituer. D'où vient cette opacité ?
De la nature du modèle, dont la décision émerge de milliards de paramètres sans représentation interprétable
La boîte noire algorithmique désigne un système, typiquement un réseau de neurones profond, dont on observe les entrées et les sorties mais dont le cheminement interne ayant conduit à une décision donnée reste largement inexplicable, y compris pour ses concepteurs. La distinction avec le secret commercial est essentielle et souvent manquée : ouvrir le code ou publier les poids ne rendrait pas la décision explicable, parce que l'opacité ne protège rien, elle résulte de la manière dont la décision se forme, par l'interaction de milliards de paramètres dans des espaces vectoriels de très grande dimension, sans représentation symbolique interprétable. La conséquence est directe pour la gestion des risques : un refus qu'on ne peut pas justifier reste un refus, mais il devient indéfendable devant un assuré, devant un juge et devant un superviseur. Au-delà du problème technique, c'est ce qui rend certaines décisions inutilisables quel que soit leur taux de justesse.
Fiche du glossaire →7. Une banque refuse un crédit sur la recommandation d'un modèle dont elle ne sait expliquer la décision. Quel dilemme central ce cas illustre-t-il ?
Les modèles les plus puissants sont fréquemment les moins interprétables
L'explicabilité est la capacité à rendre compréhensibles, pour un être humain, les décisions ou les prédictions d'un modèle. Elle s'oppose au caractère de boîte noire des modèles les plus complexes, dont la performance s'accompagne souvent d'une opacité telle que même leurs concepteurs peinent à expliquer une décision précise. La tension entre performance et transparence est l'un des dilemmes centraux de l'intelligence artificielle appliquée, et elle est réelle plutôt que rhétorique : les modèles les plus puissants sont fréquemment les moins interprétables, si bien que gagner en justesse peut coûter en défendabilité. Le cas du crédit refusé le montre concrètement, puisque trois acteurs demandent des choses différentes au même modèle : le client veut un motif, le régulateur veut une méthode, l'établissement veut une performance. Choisir un modèle un peu moins juste mais explicable relève donc moins du renoncement technique que de l'arbitrage entre le taux d'erreur et la capacité à répondre de ses décisions.
Fiche du glossaire →8. Un dispositif impose qu'un humain valide chaque décision automatisée. En pratique, l'opérateur approuve des centaines de cas par jour sans les examiner. Que reste-t-il de la garantie ?
Elle existe sur le papier et ne contrôle plus rien
Le principe de l'humain dans la boucle consiste à conserver une intervention humaine, sous forme de supervision, de validation ou de possibilité de reprise en main, au sein d'un processus de décision automatisé, et il est presque toujours présenté comme la garantie ultime face à l'autonomie croissante des systèmes. On en distingue plusieurs degrés qu'il faut savoir nommer, l'humain dans la boucle qui valide chaque décision, l'humain sur la boucle qui surveille un flux et intervient par exception, et l'humain hors boucle qui ne fait que constater après coup. Le cas décrit montre pourquoi le degré déclaré ne suffit pas : un opérateur qui approuve des centaines de cas quotidiens sans les examiner reste formellement dans la boucle, tandis qu'en fait il n'intercepte plus rien. La garantie est alors documentée, auditable, et vide. Qu'un humain valide ne dit presque rien : la question utile est de savoir de combien de temps il dispose par décision et à quelle fréquence il en refuse une.
Fiche du glossaire →9. Une entreprise de cinquante salariés fait tourner un parc d'agents commerciaux et engage davantage d'actes juridiques par jour qu'un groupe de cinq mille personnes. Quelle propriété d'un agent autonome produit cet écart ?
L'accès aux outils, qui lui donne un effet sur le monde extérieur
Un agent autonome se distingue d'un modèle de langage par plusieurs propriétés techniques dont chacune emporte une conséquence assurantielle, et il vaut de les tenir séparées. L'accès aux outils lui donne un effet sur le monde extérieur, ce qui transforme une erreur de contenu en dommage matériel ou patrimonial : c'est la propriété qui produit le cas décrit ici, puisque le nombre d'actes engagés cesse d'être borné par le nombre de personnes. La boucle d'exécution, par laquelle l'agent observe le résultat de son action et enchaîne, autorise la propagation d'une erreur initiale sur une longue séquence avant toute détection. La persistance, c'est-à-dire l'aptitude à opérer dans la durée sans sollicitation, supprime la synchronisation avec l'attention humaine. La conséquence pour la souscription est directe et déjà mesurable : une prime calculée sur les effectifs, méthode ordinaire en responsabilité professionnelle, manque entièrement le risque d'une entreprise dont la capacité d'agir n'est plus proportionnelle à son personnel.
Fiche du glossaire →