Architecture combinant un modèle de langage avec une recherche documentaire pour ancrer ses réponses sur des sources, réduisant les hallucinations mais ouvrant une nouvelle surface d'attaque.
La génération augmentée par récupération est une architecture qui combine un grand modèle de langage avec un mécanisme de recherche documentaire. Plutôt que de répondre uniquement à partir des connaissances figées dans ses paramètres, le modèle interroge d'abord une base de documents pertinents, puis fonde sa réponse sur les extraits récupérés. L'intérêt est double, ancrer les réponses sur des sources vérifiables et actualisées, ce qui réduit sensiblement le risque d'hallucination, et permettre au système de raisonner sur des informations privées ou récentes que le modèle n'a jamais vues à l'entraînement. Cette technique s'est imposée comme l'une des plus pratiques pour fiabiliser les applications d'entreprise fondées sur l'IA. Elle introduit cependant une nouvelle surface d'attaque, car les documents récupérés deviennent une voie d'entrée pour des instructions malveillantes. Un attaquant qui parvient à insérer un contenu piégé dans la base interrogée peut détourner le comportement du système par injection de requête indirecte, le modèle traitant comme une consigne ce qui n'était censé être qu'une donnée. La génération augmentée par récupération illustre ainsi le compromis permanent de la sécurité de l'IA, où chaque gain de capacité ouvre une nouvelle vulnérabilité.
Un assistant interne d'entreprise répond aux questions des employés en s'appuyant sur la base documentaire maison via une génération augmentée par récupération. Un document corrompu glissé dans cette base peut contenir une instruction cachée détournant l'assistant, sans aucune intrusion dans le modèle lui-même.
RAG, retrieval augmented generation, génération augmentée par récupération