Principe exigeant que les concepteurs et utilisateurs d'algorithmes puissent justifier et répondre des décisions automatisées prises.
La reddition de comptes algorithmique est le principe selon lequel les concepteurs et les utilisateurs de systèmes algorithmiques doivent pouvoir justifier les décisions automatisées qu'ils produisent et en répondre, devant les personnes concernées comme devant les autorités. Elle englobe la traçabilité des décisions, la capacité d'expliquer une décision donnée, l'auditabilité du système et l'identification d'un responsable identifiable, par opposition à une dilution de la responsabilité dans l'opacité technique. Ce principe répond au risque que l'automatisation serve à déresponsabiliser, l'algorithme étant invoqué comme une boîte noire neutre pour échapper à toute imputation. Il sous-tend plusieurs obligations concrètes du règlement européen sur l'IA et du règlement général sur la protection des données, comme la documentation, la journalisation et le droit à l'explication. Pour l'assurance, la reddition de comptes algorithmique conditionne la capacité à établir les responsabilités en cas de dommage et constitue un marqueur de gouvernance du risque: un assuré disposant de processus d'audit et de traçabilité présente un profil mieux maîtrisé et plus défendable en contentieux.
Une entreprise capable de tracer et d'expliquer une décision de crédit automatisée contestée est mieux à même de défendre sa responsabilité qu'un acteur invoquant l'opacité de son algorithme.
algorithmic accountability, reddition de comptes algorithmique, responsabilité algorithmique