Capacité à rendre compréhensibles les décisions d'un modèle d'IA, enjeu de confiance, de conformité réglementaire et de responsabilité.
L'explicabilité désigne la capacité à rendre compréhensibles, pour un être humain, les décisions ou les prédictions d'un modèle d'intelligence artificielle. Elle s'oppose au caractère de boîte noire des modèles les plus complexes, dont la performance s'accompagne souvent d'une opacité telle que même leurs concepteurs peinent à expliquer pourquoi une décision précise a été prise. Cette tension entre performance et transparence est l'un des dilemmes centraux de l'IA appliquée, les modèles les plus puissants étant fréquemment les moins interprétables. L'explicabilité n'est pas qu'une préoccupation technique, elle est devenue un enjeu réglementaire et juridique majeur. Le droit de la protection des données encadre les décisions entièrement automatisées et reconnaît un droit à l'information sur la logique sous-jacente, et les nouveaux cadres applicables à l'IA imposent des exigences de transparence pour les systèmes à haut risque. Des techniques dédiées tentent d'éclairer après coup le fonctionnement des modèles. Pour l'assurance et la responsabilité, l'explicabilité est décisive, car il est difficile d'imputer une faute, de contester une décision ou d'indemniser un préjudice lorsque nul ne peut expliquer ce qui s'est produit à l'intérieur du modèle, l'opacité diluant les responsabilités et compliquant la preuve.
Une banque refuse un crédit sur la recommandation d'un modèle dont elle ne sait expliquer la décision. Le client conteste, le régulateur s'interroge, et l'absence d'explicabilité place l'établissement en difficulté pour justifier un refus pourtant lourd de conséquences.
explicabilité, IA explicable, explainable AI, XAI, interprétabilité