Cadre de gestion des risques liés à l'IA (NIST)

Le cadre américain de gestion des risques liés à l'intelligence artificielle est volontaire et n'oblige personne, ce qui explique à la fois sa diffusion rapide et ses limites. Il range le travail en quatre fonctions, gouverner, cartographier, mesurer et gérer, la première traversant les trois autres. Il définit aussi sept caractéristiques d'un système digne de confiance, dont la validité, la sûreté, la sécurité, la responsabilité, l'explicabilité et l'équité. Sur la méthode, il apporte peu : ces fonctions ressemblent à celles de tout dispositif de gestion des risques. Ce qu'il apporte, c'est un vocabulaire partagé. Un assureur, un auditeur et un exploitant désignent enfin la même chose avec les mêmes mots, dans un domaine où chacun avait les siens. En souscription, il est devenu la grille de questions habituelle des polices de responsabilité liée à un système d'IA : l'assureur demande quelles fonctions sont documentées, et non si le modèle est bon.