AI kill switch won't work in the long run: 'Godfather' of AI

Geoffrey Hinton, prix Nobel et figure tutélaire de l'apprentissage profond, explique sur CNN pourquoi l'idée d'un interrupteur d'arrêt pour l'IA ne tiendra pas dans la durée.

Alors que la Californie vient de charger ses services de concevoir un mécanisme d'arrêt d'urgence pour les modèles de frontière, Geoffrey Hinton, lauréat du prix Nobel et souvent désigné comme le parrain de l'IA, oppose à cette idée une objection de fond dans cet entretien accordé à CNN.

Son argument porte moins sur la faisabilité technique immédiate que sur la durée : un dispositif d'arrêt suppose que celui qui tient l'interrupteur conserve durablement l'avantage sur le système qu'il surveille, hypothèse qu'il juge fragile à mesure que les capacités progressent.