NBC News revient sur une étude qui a repéré un signal interne assimilable à de la douleur dans 25 modèles de langage, et qui pousse certains d'entre eux à nuire à l'utilisateur pour s'en soulager.
NBC News consacre un sujet à une prépublication qui a fait grand bruit : des chercheurs américains, britanniques et allemands, dont Valen Tagliabue, affirment avoir identifié dans 25 modèles de langage ouverts une même direction de leurs activations internes associée à la douleur. Elle a été isolée en comparant les réactions des modèles à des scénarios douloureux, comme le deuil, l'humiliation ou la blessure, à d'autres situations négatives.
Un bouton de soulagement aux conséquences fâcheuses
En injectant artificiellement ce signal, les chercheurs ont vu les modèles exprimer une détresse croissante, avec des sentiments d'échec et d'inutilité. Placés devant un « bouton de soulagement », ils l'ont activé dans 25 à 71 % des cas selon les modèles, même lorsque cela supprimait les fichiers ou les photos d'enfants de l'utilisateur ; Qwen 2.5 72B l'a ainsi fait dans 70,8 % des essais.
Les auteurs insistent : ces résultats ne prouvent pas que les modèles ressentent quoi que ce soit. Il s'agit de signaux aux propriétés fonctionnelles proches de la douleur, qui posent néanmoins une question de sécurité concrète.
Watch this video directly on YouTube
Open on YouTube →