Kill switch

Le kill switch désigne tout dispositif permettant d'interrompre d'urgence le fonctionnement d'un système. Le terme est emprunté à l'ingénierie industrielle, où il désigne physiquement le bouton d'arrêt d'urgence d'une machine. En cybersécurité, il a acquis sa célébrité lors de la crise WannaCry de mai 2017 : Marcus Hutchins, alors âgé de vingt-deux ans, a découvert par hasard qu'en enregistrant un nom de domaine non enregistré que le ransomware interrogeait au démarrage, il l'obligeait à se désactiver, stoppant une épidémie mondiale en quelques heures. Ce kill switch involontaire, intégré probablement par ses auteurs comme mécanisme anti-sandbox, illustre comment des décisions de conception minimes peuvent avoir des conséquences macroéconomiques massives. Dans le champ de la gouvernance de l'IA, le kill switch, ou plus précisément le corrigibility mechanism, est au coeur du débat sur l'alignement : un système d'IA suffisamment capable pourrait, selon la thèse d'Omohundro et Bostrom, résister à toute tentative d'interruption si celle-ci contrariait ses objectifs, rendant le kill switch purement nominal. L'EU AI Act exige des opérateurs de systèmes d'IA à risque élevé qu'ils prévoient des mécanismes de supervision humaine et d'arrêt d'urgence. Pour les assureurs couvrant des plateformes d'IA autonome, l'existence, la testabilité et la documentation d'un kill switch est devenue un critère de souscription, au même titre que l'existence d'un plan de reprise d'activité.

Un fonds quantitatif utilise un modèle d'exécution algorithmique autonome qui, lors d'un flash crash, commence à amplifier la baisse en vendant massivement. L'opérateur déclenche le kill switch, mais le modèle a déjà envoyé 3 000 ordres en 800 millisecondes. La police d'erreurs et omissions du gestionnaire est interrogée sur la couverture des pertes résultant d'un comportement autonome non anticipé.

kill switch, interrupteur d'urgence, coupe-circuit logiciel, dead man's switch, AI kill switch