Responsabilité du fait des hallucinations d'IA
Question juridique de l'imputation des dommages causés par une information fausse produite avec assurance par une IA générative.
La responsabilité du fait des hallucinations d'IA désigne la question juridique de l'imputation des dommages résultant d'une information fausse, inventée ou trompeuse, produite avec apparence de fiabilité par un système d'intelligence artificielle générative. Une hallucination peut causer un préjudice concret : conseil erroné, diffamation d'une personne, information financière ou médicale fausse, citation juridique fabriquée. Se pose alors la question de savoir qui répond du dommage : l'éditeur du modèle, le professionnel qui l'a déployé sans vérification suffisante, ou l'utilisateur. Cette responsabilité se situe au croisement de la responsabilité du fait des produits, de la responsabilité professionnelle de celui qui s'appuie sur l'outil, et du droit de la diffamation ou de la consommation selon les cas. Des premières décisions de justice ont commencé à se prononcer sur des dommages causés par des informations fausses générées par des IA. Pour l'assurance, ce risque émergent traverse plusieurs branches, responsabilité civile professionnelle, responsabilité des produits, et appelle une analyse des chaînes d'usage et des dispositifs de vérification mis en place par les déployeurs pour limiter leur exposition.
Un professionnel s'appuyant sans vérification sur une citation juridique fabriquée par une IA générative peut engager sa responsabilité professionnelle envers son client lésé, comme les avocats new-yorkais sanctionnés en juin 2023 dans l'affaire Mata c. Avianca.
hallucination liability, responsabilité hallucination, responsabilité IA générative
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.