Monoculture algorithmique (Single Point of Failure logiciel)
Concentration des usages autour d'un même modèle de fondation, créant un point de défaillance unique et une corrélation des erreurs.
La monoculture algorithmique désigne la situation dans laquelle un grand nombre d'organisations s'appuient sur un même modèle de fondation pour leurs décisions, créant une homogénéisation périlleuse. Le concept, mis en avant par les chercheurs du Center for Research on Foundation Models de Stanford, est l'équivalent logiciel du Single Point of Failure. Si le modèle partagé présente un biais d'analyse, une faille de raisonnement ou une vulnérabilité, la défaillance n'est plus isolée mais répliquée simultanément chez tous les acteurs qui en dépendent. La monoculture détruit ainsi la diversification cognitive qui, dans une organisation humaine, agissait comme un amortisseur naturel, la probabilité que des milliers d'individus commettent exactement la même erreur étant négligeable. À l'inverse, des agents fondés sur un modèle unique commettent des erreurs parfaitement corrélées. Le mémoire d'AlgoPolis montre que ce mécanisme transforme un risque idiosyncratique, l'erreur humaine isolée, en un risque systémique interne, l'erreur algorithmique généralisée, et qu'il fait vaciller la loi des grands nombres sur laquelle repose l'assurance. La monoculture est donc un foyer majeur d'accumulation pour les portefeuilles exposés au risque algorithmique, au même titre que la dépendance à un fournisseur de cloud commun en cyber.
Cas d'école : si la majorité des entreprises d'un secteur confient leur analyse de risque au même modèle de fondation, une faille de raisonnement de ce modèle produit des décisions erronées identiques et simultanées dans tout le secteur.
monoculture algorithmique, algorithmic monoculture, homogénéisation des modèles
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.