Pratiques d'intelligence artificielle interdites

L'article 5 du règlement (UE) 2024/1689 du 13 juin 2024 sur l'intelligence artificielle, applicable depuis le 2 février 2025, ouvre la pyramide des risques par des interdictions pures, qu'aucune procédure de conformité ne lève. La liste est fermée et vise des usages, non des technologies. Y figurent les techniques subliminales ou manipulatrices qui altèrent substantiellement le comportement au point de causer un préjudice, et l'exploitation des vulnérabilités tenant à l'âge, au handicap ou à une situation sociale ou économique. Viennent ensuite la notation sociale qui conduit à un traitement défavorable dans un contexte sans lien avec les données collectées, la constitution de bases de reconnaissance faciale par moissonnage non ciblé d'images, la reconnaissance des émotions sur le lieu de travail et dans les établissements d'enseignement, et la catégorisation biométrique qui vise à déduire des attributs sensibles. S'y ajoutent l'évaluation du risque qu'une personne commette une infraction sur la seule base du profilage et, sauf exceptions étroites, l'identification biométrique à distance en temps réel dans les espaces accessibles au public à des fins répressives. Deux de ces interdictions touchent directement l'assurance. La notation sociale interdit d'appliquer à un contrat un score construit sur des comportements sans rapport avec le risque assuré. Et l'exploitation des vulnérabilités vise le ciblage d'une personne en difficulté financière par un système conçu pour tirer parti de cette difficulté, ce qui déplace la question de la conformité du champ de la protection des données vers celui de la conception du produit.