Humain dans la boucle

Le principe de l'humain dans la boucle consiste à conserver une intervention humaine, sous forme de supervision, de validation ou de possibilité de reprise en main, au sein d'un processus de décision automatisé. Il est souvent présenté comme la garantie ultime de sécurité et de responsabilité face à l'autonomie croissante des systèmes d'intelligence artificielle, l'idée étant qu'un humain veille et peut corriger ou bloquer une décision inappropriée. On en distingue plusieurs degrés, l'humain dans la boucle qui valide chaque décision, l'humain sur la boucle qui supervise et peut intervenir sans valider systématiquement, et l'humain hors de la boucle pour les systèmes pleinement autonomes. La difficulté est que la valeur réelle de ce principe dépend entièrement de la qualité du contrôle exercé. Lorsque l'humain, par confort, par excès de confiance ou par surcharge, se contente d'entériner les sorties du système sans réel examen, ce qui relève du biais d'automatisation, la supervision devient une formalité vide, qui donne l'illusion d'un contrôle sans en offrir la substance. Pour l'assurance et le droit, cette question est centrale, car la présence formelle d'un humain dans la boucle est souvent invoquée pour fonder la responsabilité ou justifier un déploiement, alors même qu'elle peut ne plus rien garantir en pratique.