Obligation, posée par l'AI Act, de maintenir un contrôle humain effectif sur un système d'IA à haut risque afin de prévenir ou de corriger ses défaillances.
La supervision humaine est l'exigence, inscrite à l'article 14 de l'AI Act, selon laquelle un système d'IA à haut risque doit pouvoir être supervisé par des personnes physiques pendant son utilisation. Elle vise à permettre à un opérateur de comprendre les sorties du système, d'en détecter les anomalies, de passer outre une décision ou d'interrompre le fonctionnement en cas de besoin. Ce principe répond au risque de biais d'automatisation, cette tendance à se fier excessivement à une recommandation machine, et complète d'autres dispositifs comme l'humain dans la boucle. La supervision humaine n'est pas une simple présence symbolique, elle suppose des compétences, des interfaces adaptées et une réelle capacité d'action. Son absence ou son caractère illusoire constitue un manquement susceptible de fonder une faute ou un défaut au regard du régime de responsabilité.
Un outil d'aide à la souscription doit laisser à un souscripteur la possibilité de revoir et d'écarter une décision automatisée de refus, faute de quoi la supervision humaine exigée par l'AI Act ne serait qu'apparente.
surveillance humaine, human oversight, contrôle humain