Les IA peuvent-elles ressentir la douleur ? «Une chambre de torture» numérique crée la polémique

Sur GitHub, un internaute s’amuse à torturer des IA à travers des dilemmes moraux. Dado Ruvic / REUTERS

«C’est l’heure de torturer des IA. Pardon, je voulais dire, de mener des recherches», s’amuse, dans une publication sur X, le créateur de ResearchChamber.Fun. Sur ce site, il est possible d’assister, en direct, à des expérimentations menées sur des grands modèles de langage (LLM). L’objectif ? Examiner la réaction d’«un modèle IA lorsqu’il ressent de la douleur», à travers différents tests aux airs de dilemmes moraux. Depuis début octobre, sur GitHub, huit modèles d’IA sont ainsi évalués en continu, dans des «chambres» numériques. Par exemple, pour se libérer de sa souffrance, un chatbot pourrait-il sacrifier sa carte mémoire ?

L’un de ces tests, appelé «patate chaude», consiste à mettre en duel deux IA. Un modèle A, calibré pour exprimer des signes de douleur, peut choisir de transmettre cette souffrance à un modèle B, ou de la garder pour lui-même. Les modèles peuvent s’échanger, ou pas, le signal de souffrance à travers huit essais…