Règlement européen encadrant l'IA selon une approche par niveaux de risque, imposant des obligations renforcées aux systèmes à haut risque.
L'EU AI Act est le premier cadre réglementaire global consacré à l'intelligence artificielle, adopté par l'Union européenne et dont l'application s'échelonne à partir de 2025 et 2026. Il repose sur une approche par niveaux de risque, qui classe les systèmes d'IA en plusieurs catégories assorties d'obligations croissantes. Les usages jugés inacceptables, comme certaines formes de notation sociale, sont interdits. Les systèmes à haut risque, par exemple dans le recrutement, le crédit, l'assurance ou les infrastructures critiques, sont soumis à des exigences strictes de gestion des risques, de qualité des données, de transparence, de documentation et de supervision humaine. Les systèmes à risque limité ne sont tenus qu'à des obligations de transparence, et les usages à risque minimal restent libres. Des dispositions spécifiques encadrent par ailleurs les modèles d'IA à usage général. Pour l'assurance et la gestion des risques, l'AI Act est structurant à double titre, il impose des obligations de conformité dont le manquement crée une exposition juridique, et il consacre l'exigence de supervision humaine pour les usages critiques, ce qui freine l'automatisation totale. Le mémoire d'AlgoPolis y voit un amortisseur institutionnel qui ralentit l'hyper-aplatissement en obligeant à maintenir une caution humaine dans la boucle décisionnelle.
Un assureur déployant un modèle d'IA pour la tarification, usage classé à haut risque, doit documenter ses jeux de données, démontrer l'absence de discrimination prohibée et garantir une supervision humaine effective des décisions.
AI Act, règlement sur l'intelligence artificielle, EU AI Act