Cette machine fait tourner une IA aussi puissante que le cloud… mais directement chez vous

Alors que la montée en puissance des outils d'IA générative repose largement sur les infrastructures cloud, les coûts d'abonnement aux API explosent, les données sensibles transitent sur des serveurs distants, et les performances dépendent en grande partie de la connexion réseau, avec des problèmes de latence qui peuvent survenir. Et c'est sans compter le coût environnemental gigantesque des centres de données.

En guise de réponse, la TT-QuietBox 2 est une station de travail légère et silencieuse qui propose une approche radicalement différente en faisant tourner les modèles les plus puissants directement sur un PC personnel, au bureau comme à domicile.

Une machine pensée pour l’IA locale

Pour fonctionner, la TT-QuietBox 2 embarque sous son capot une architecture hybride qui combine quatre processeurs Blackhole, intégrant chacun 120 accélérateurs d'IA Tensix, et un stockage SSD nouvelle génération ultra-rapide, ce qui permet à la machine de disposer de 128 Go de mémoire vive GDDR6 et de 256 Go de mémoire dynamique synchrone à double débit de données DDR5, soit 384 Go de mémoire au total.  

Cette configuration toute en puissance permet de charger et d'exécuter les grands modèles de langage, comme GPT-OSS-120B d'OpenAI, Llama 3.1 70B de Meta, ou encore Mixtral 8x7B de Mistral, à une cadence proche de 500 jetons par seconde et sans dépendre du cloud.

L'utilisateur peut ainsi interagir avec un assistant IA sans être connecté à Internet, et sans latence, tout en bénéficiant de performances de haut niveau pour de nombreux usages professionnels, que ce soit la rédaction, l'analyse de données, la génération de code ou la traduction.

Renforcer la souveraineté technologique

Autre atout majeur, la TT-QuietBox 2 comporte des outils de personnalisation qui permettent aux entreprises d'affiner leurs modèles en toute autonomie sur leurs propres données, sans devoir les exposer à des services externes, ce qui est un atout pour garantir leur confidentialité.

En réduisant la dépendance aux grandes plateformes traditionnelles, la TT-QuietBox 2 offre une alternative crédible et particulièrement efficace pour permettre à chaque organisation de développer des outils d'IA souverains, dont l'exploitation et l'amélioration ne dépendent pas des acteurs habituels.

Un cran plus loin, cette innovation pourrait préfigurer une évolution plus large du marché. À terme, chaque poste de travail et chaque ordinateur personnel pourrait disposer en propre d'un système d'IA autonome et personnalisable, ce qui transformerait en profondeur notre rapport à l’intelligence artificielle en démocratisant encore un peu plus cette technologie.