Catégorie centrale de l'AI Act regroupant les systèmes d'IA soumis à des obligations contraignantes en raison de leur impact potentiel sur la sécurité ou les droits des personnes.
Le système à haut risque est la pierre angulaire de l'AI Act, le règlement (UE) 2024/1689. L'architecture du texte repose sur une pyramide de risques, des usages interdits au sommet jusqu'au risque minimal à la base, et c'est sur la catégorie intermédiaire du haut risque que se concentre l'essentiel de la contrainte. Un système y accède par deux voies : l'annexe I, lorsqu'il est intégré comme composant de sécurité dans un produit déjà réglementé, et l'annexe III, qui vise huit domaines d'usage autonome sensibles tels que l'identification biométrique, l'emploi, les infrastructures critiques ou l'accès aux services essentiels. La qualification déclenche un arsenal d'obligations : gestion des risques, gouvernance des données, documentation technique, journalisation, transparence, supervision humaine, exactitude, robustesse et cybersécurité, validées par une évaluation de la conformité. Pour l'assurance, le point 5(c) de l'annexe III est décisif, car il classe explicitement à haut risque l'IA d'évaluation du risque et de tarification en assurance vie et santé, plaçant le moteur tarifaire de l'assureur sous surveillance réglementaire directe.
Un assureur santé qui utilise un modèle pour tarifer ses contrats individuels déploie un système à haut risque au sens de l'annexe III, point 5(c), et doit donc documenter la gouvernance de ses données et garantir une supervision humaine de son algorithme.
IA à haut risque, haut risque, système d'IA à haut risque, high-risk AI system