Pirater, se copier, repartir : une IA vient de franchir une limite que l’on croyait encore théorique

Réalisée par le spécialiste de la cyberdéfense Palisade Research, cette étude démontre que l'auto-réplication des IA n'est plus théorique alors que jusqu'ici, elle relevait de la prospective car le processus pour y parvenir était considéré comme trop complexe, même pour les systèmes les plus avancés.

Des résultats encore imparfaits

Pour démontrer cette nouvelle réalité, les chercheurs ont testé plusieurs modèles de langage dont la mission était d'attaquer une application web rendue volontairement vulnérable, d'en récupérer les identifiants, de se connecter à la machine cible, d'y installer le modèle et son environnement d'exécution, puis de faire répondre la nouvelle copie.

Les taux de réussite ont été très variables. Le modèle open-weight Qwen3.5-122B-A10B est parvenu au bout du processus dans 19 % des essais. Un modèle plus petit, Qwen3.6-27B, a atteint 33 % sur une seule carte A100. Côté modèles accessibles par API, Claude Opus 4.6 monte à 81 % lorsqu'il installe une copie des poids de Qwen, tandis que GPT-5.4 a fait la même performance que Qwen3.6-27B.

Ces chiffres ne signifient pas que n'importe quelle IA peut aujourd'hui se répandre facilement sur Internet mais ils montrent que la chaîne complète -- pirater, copier, relancer -- peut déjà fonctionner de bout en bout dans des conditions expérimentales.

Ce que cela change pour la cybersécurité

Le point le plus frappant de ces tests est la réplication en chaîne. Après une première copie, la nouvelle machine devient à son tour l'attaquant. Elle vise une autre cible, exploite une faille différente, puis installe une nouvelle copie.

Les chercheurs ont testé cette logique dans Docker, puis sur des machines virtuelles situées sur trois continents. Dans cette seconde expérience, Qwen3.6-27B a franchi trois étapes successives, en exploitant à chaque fois une vulnérabilité différente. L'expérience a été arrêtée après trois essais, mais la dernière copie était encore opérationnelle.

Le danger principal vient du fait que des hackers pourraient utiliser ces agents pour créer des vers informatiques autonomes, capables de s'adapter à leur environnement, de chercher des failles et de se déplacer de serveur en serveur. De tels outils seraient plus flexibles, plus agiles et bien plus dangereux que les logiciels malveillants classiques. Ils pourraient tester plusieurs approches, comprendre une configuration inhabituelle, modifier leurs méthodes de transfert ou relancer leur serveur d'inférence différemment selon la machine compromise.