Système à haut risque
Catégorie centrale de l'AI Act regroupant les systèmes d'IA soumis à des obligations contraignantes en raison de leur impact potentiel sur la sécurité ou les droits des personnes.
Le système à haut risque est la pierre angulaire de l'AI Act, le règlement (UE) 2024/1689. Le texte range les usages sur une pyramide de risques, des usages interdits au sommet jusqu'au risque minimal à la base. L'essentiel de la contrainte porte sur l'étage intermédiaire, le haut risque. Un système y entre par deux voies. L'annexe I vise le composant de sécurité intégré à un produit déjà réglementé. L'annexe III vise huit domaines d'usage autonome sensibles, comme l'identification biométrique, l'emploi, les infrastructures critiques ou l'accès aux services essentiels. La qualification déclenche une série d'obligations : gestion des risques, gouvernance des données, documentation technique, journalisation, transparence, supervision humaine, exactitude, robustesse et cybersécurité. Une évaluation de la conformité les valide. Pour l'assurance, le point 5(c) de l'annexe III est décisif. Il classe en toutes lettres à haut risque l'IA d'évaluation du risque et de tarification en assurance vie et santé. Le moteur tarifaire de l'assureur passe ainsi sous surveillance réglementaire directe.
Cas d'école : un assureur santé qui utilise un modèle pour tarifer ses contrats individuels déploie un système à haut risque au sens de l'annexe III, point 5(c), et doit donc documenter la gouvernance de ses données et garantir une supervision humaine de son algorithme.
IA à haut risque, haut risque, système d'IA à haut risque, high-risk AI system
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.