Claude Fable et Mythos désactivées : pourquoi Washington vient de relancer la guerre mondiale de l’IA

La semaine dernière, Anthropic a annoncé son tout dernier modèle, Claude Fable 5. Il s'agit d'une version sécurisée de Claude Mythos, son modèle le plus avancé et tellement dangereux qu'il ne peut pas être ouvert au public. La firme a beaucoup mis en avant cette dangerosité, notamment le fait que son IA est capable de trouver toutes les failles de sécurité d'un logiciel. Pour preuve, Mozilla a utilisé Claude Mythos pour analyser son navigateur Firefox, et a ensuite publié une mise à jour corrigeant 271 failles !

Toutefois, Anthropic a peut-être un peu trop joué avec le feu. Vendredi 12 juin, la firme a annoncé la désactivation de Fable 5 et Mythos 5 suite à une directive du gouvernement américain interdisant l'accès à toute personne qui n'est pas un citoyen des États-Unis. Cela inclut ses propres employés de nationalité étrangère dans le pays. Afin d'être certain d'être en conformité, la firme a tout simplement décidé de désactiver les modèles pour tout le monde. « Le gouvernement pense avoir pris connaissance d'une méthode permettant de contourner, ou de "jailbreaker", Fable 5 », explique le communiqué.

Le modèle le plus dangereux pas si dangereux, finalement ?

Lors de la sortie de Fable 5, Anthropic a précisé avoir amélioré la sécurité de son IA en redirigeant toute question sensible liée à la cybersécurité, la biologie, la chimie ou la distillation du modèle, vers Claude Opus 4.8. Une technique permettrait de contourner cette sécurité et d'exposer des failles dans des logiciels, mais selon Anthropic, ce ne sont que des failles mineures, identifiables avec d'autres modèles moins avancés.

David Sacks, « tsar » de l'IA et de la cryptomonnaie de Donald Trump, a affirmé sur X (ex-Twitter) qu'un « partenaire de confiance » avait signalé ce jailbreak. Selon d'autres sources, ce serait nul autre qu'Andy Jassy, le PDG d'Amazon. D'après The Verge, l'administration a appelé Anthropic à 13 heures vendredi avec un ultimatum : verrouiller l'accès à Mythos et Fable 5 dans les 90 prochaines minutes, ou se voir interdire toute exportation. Des cadres étaient en contact direct avec la Maison-Blanche dans le quart d'heure suivant, mais le PDG Dario Amodei n'a rejoint la discussion qu'au bout de 75 minutes.

Depuis, Anthropic effectue un rétropédalage et tente de convaincre que son modèle n'est pas si dangereux, et que sa sécurité est robuste. La firme, comme toute l'industrie de l'IA américaine, devra désormais revoir sa stratégie. Le gouvernement a montré qu'il était prêt à s'en prendre aux entreprises d'IA au moindre prétexte, établissant ainsi un seuil d'intervention très bas. Cela pourrait ralentir le développement des modèles de pointe, tout en favorisant la concurrence dans les autres pays qui pourraient réfléchir à deux fois avant d'opter pour des modèles américains.

Anthropic dans le viseur de Donald Trump

Ce n'est pas la première fois que la firme est dans le viseur du gouvernement américain. Anthropic a refusé que ce dernier utilise ses modèles pour la surveillance de masse et les armes autonomes. En mars dernier, en guise de représailles, Donald Trump l'a inscrit sur liste noire, interdisant toute utilisation des modèles par les administrations et entreprises liées au secteur de la Défense.

Pour l'accès à Mythos, Anthropic avait mis en place son projet Glasswing, un partenariat regroupant principalement des entreprises américaines, excluant de fait la plupart des organismes européens. Mais même si elles y avaient accès, pour analyser leurs applications afin de corriger les failles, les banques, administrations ou même les armées européennes, devraient envoyer le code source à une entreprise américaine. Cette situation est problématique.

Le sursaut nécessaire de la souveraineté européenne

La décision de bloquer l'accès à cette IA montre à quel point il est dangereux de dépendre de services américains, dont l'accès peut être coupé sans préavis. Si le gouvernement de Trump justifie sa décision en évoquant un risque que la Chine ou la Russie parviennent à utiliser Claude Mythos pour des cyberattaques, l'inverse est aussi vrai. Les autorités américaines pourraient utiliser le modèle pour révéler des failles dans les infrastructures afin d'espionner ou même attaquer les institutions européennes.

Cette nouvelle débâcle montre une nouvelle fois l'importance d'une souveraineté numérique en Europe. Heureusement, la start-up française Mistral travaille déjà sur son propre équivalent à Claude Mythos. La firme n'a pas encore donné de date de lancement, mais elle a récemment annoncé un partenariat avec BNP Paribas. Cependant, Mistral peine déjà à convaincre avec ses modèles grand public, et rien ne garantit que cette nouvelle IA sera à la hauteur.