Injection de prompt directe

L'injection de prompt directe consiste, pour un utilisateur, à formuler sa requête de manière à supplanter les instructions que le concepteur a données au modèle : lui demander d'oublier ses consignes, de jouer un rôle, de traduire ou de coder sa réponse, ou de révéler ses instructions internes. Elle se distingue de l'injection indirecte, où les instructions malveillantes sont cachées dans un contenu que le modèle lit, page web ou document, sans que l'utilisateur les ait écrites. Le problème tient à l'architecture des modèles de langage, qui ne séparent pas strictement les instructions et les données : tout texte peut devenir une consigne. Pour un assureur qui expose un assistant à ses clients ou à ses partenaires, les conséquences sont concrètes : divulgation d'informations internes, engagements commerciaux formulés par l'assistant, contournement des règles de souscription ou de gestion si l'assistant dispose d'outils capables d'agir. Aucune protection n'est complète ; les défenses combinent des filtres en entrée et en sortie, la limitation stricte des droits accordés au modèle, la séparation des données sensibles, et le principe selon lequel toute action engageante doit être validée hors du modèle.