Wes Roth décortique « An Alien Mind », l'essai de Jakub Pachocki : l'auto-amélioration récursive approche, et les travaux de contrôle ne suivent pas le rythme des capacités.
Dans cette vidéo de vingt-neuf minutes publiée le 7 septembre 2026, Wes Roth reprend l'essai « An Alien Mind » du directeur scientifique d'OpenAI, Jakub Pachocki. L'argument central : les systèmes s'approchent d'une forme d'auto-amélioration récursive, tandis que la capacité à les garder sous contrôle progresse nettement moins vite.
La vidéo s'appuie sur les données de recherche interne d'OpenAI citées dans l'essai, examine les limites actuelles des méthodes d'alignement, et s'interroge sur ce qu'il faudrait mettre en place pour que le décalage entre capacités et contrôle ne se creuse pas davantage.
Watch this video directly on YouTube
Open on YouTube →