Référentiel volontaire américain qui organise la gestion des risques d'un système d'IA en quatre fonctions, et qui sert de vocabulaire commun aux audits.
Le cadre américain de gestion des risques liés à l'intelligence artificielle est volontaire et n'a aucune force obligatoire, ce qui explique à la fois sa diffusion rapide et ses limites. Il organise le travail en quatre fonctions, gouverner, cartographier, mesurer et gérer, la première étant transverse aux trois autres, et il définit sept caractéristiques d'un système digne de confiance, parmi lesquelles la validité, la sûreté, la sécurité, la responsabilité, l'explicabilité et l'équité. Son apport réel n'est pas méthodologique, puisque ces fonctions ressemblent à celles de tout dispositif de gestion des risques, mais lexical : il donne un vocabulaire partagé qui permet à un assureur, à un auditeur et à un exploitant de désigner la même chose, ce qui manquait cruellement à un domaine où chaque acteur employait ses propres mots. Pour la souscription, il est devenu la grille de questionnement usuelle des polices couvrant la responsabilité liée à un système d'IA, l'assureur demandant quelles fonctions sont documentées plutôt que si le modèle est bon.
L'institut national américain des normes et de la technologie a publié le 26 janvier 2023 la première version de son cadre de gestion des risques liés à l'intelligence artificielle, complété en juillet 2024 par un profil consacré à l'intelligence artificielle générative.
AI RMF, NIST AI RMF, cadre NIST IA