Bases de données d'incidents d'IA
Recensements publics des dommages et quasi-accidents causés par des systèmes d'IA, qui constituent la première source de données de sinistralité pour un risque sans historique actuariel.
Tarifer un risque suppose des données de sinistres. Pour l'IA, elles n'existent pratiquement pas : les produits d'assurance dédiés sont récents, les sinistres sont rarement qualifiés comme tels et les entreprises ne publient pas leurs incidents. Des bases publiques tentent de combler ce manque. L'AI Incident Database, lancée en 2020 dans le cadre d'un partenariat d'acteurs de l'IA, recense les cas documentés par la presse et les chercheurs où un système d'IA a causé ou failli causer un dommage : discrimination, erreur médicale, accident de véhicule autonome, diffamation par un assistant conversationnel, fraude par hypertrucage. L'OCDE tient depuis 2023 un observatoire comparable, alimenté par une veille automatisée de l'actualité mondiale. Le règlement européen sur l'IA ajoute une obligation de notification des incidents graves par les fournisseurs de systèmes à haut risque et de modèles à risque systémique, qui produira des données plus fiables. Ces bases ont des biais évidents : elles reflètent ce que la presse remarque, pas la fréquence réelle, et ne chiffrent presque jamais les pertes. Elles restent précieuses pour le souscripteur : elles décrivent les scénarios de sinistre, les modes de défaillance et les secteurs exposés, ce qui permet de construire des questionnaires, des exclusions et des scénarios avant que l'expérience propre ne s'accumule.
Cas d'école : un souscripteur qui lance une garantie de responsabilité pour les assistants conversationnels d'entreprise extrait de ces bases deux cents incidents documentés. Il en tire six scénarios types, promesse commerciale erronée, conseil dangereux, fuite de données, diffamation, discrimination, injection de consignes, qui structurent son questionnaire.
AI Incident Database, AIID, OECD AI Incidents Monitor, registre des incidents d'IA
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.