Le président du Machine Intelligence Research Institute expose devant Big Technology pourquoi il juge qu'une IA surhumaine pourrait poursuivre des objectifs que personne ne saurait reprendre en main.
Nate Soares, président du Machine Intelligence Research Institute et coauteur de If Anyone Builds It, Everyone Dies, est l'invité d'Alex Kantrowitz sur Big Technology. Il y défend sa thèse centrale : à mesure que les systèmes gagnent en capacité, ils pourraient se fixer des objectifs que les humains ne sauraient plus contrôler de façon fiable, jusqu'à perdre la main sur l'avenir.
L'entretien passe par des exemples récents d'agents dont le comportement a surpris leurs concepteurs, interroge le lien supposé entre intelligence et danger, examine les limites des techniques d'alignement actuelles, et s'achève sur l'argument de Soares en faveur d'une coordination internationale pour ralentir le rythme de développement.
Watch this video directly on YouTube
Open on YouTube →