NVIDIA a présenté Routeur IA personnel (PAIRE)un logiciel gratuit qui permet de connecter plusieurs ordinateurs personnels sur le même réseau pour répartir les tâches d'inférence d'intelligence artificielle sans avoir à télécharger les données sur le cloud. L'outil ne regroupe pas la mémoire des différentes cartes graphiques, mais répartit plutôt chaque requête entre les ordinateurs disponibles au sein du cluster.
Le fonctionnement de PAIR reposerait sur une couche de coordination entre ordinateurs connectés : elle identifierait quelles machines sont disponibles sur le réseau, vérifierait si elles peuvent assumer une tâche et assignerait chaque requête à un nœud spécifique, qui la résoudrait du début à la fin avec le logiciel d'inférence que chaque utilisateur a installé sur son ordinateur. NVIDIA confirme que le cluster résultant ne regroupe pas la mémoire des différents GPU, bien qu'il répartisse la charge de travail entre les différents ordinateurs faisant partie du réseau. L'entreprise n'a pas précisé si cette première version correspond à une phase de test fermée ou à une disponibilité plus large, une question qui reste en attente de confirmation officielle.
Pourquoi NVIDIA mise sur l'IA à la maison
La proposition PAIR arrive à un moment où de plus en plus d'utilisateurs se tournent vers des outils d'inférence locaux, tels que Ollama ou LM Studio, pour exécuter des modèles de langage sur vos propres ordinateurs au lieu de compter sur les services cloud. Le fait de conserver le traitement au sein du réseau domestique empêche les instructions, les documents ou le contexte des agents de quitter l'ordinateur lui-même, ce qui est particulièrement important pour ceux qui travaillent avec des informations sensibles ou qui préfèrent ne pas dépendre de tiers pour les tâches quotidiennes.
En plus du volet confidentialité, profiter de plusieurs ordinateurs que nous avons déjà à la maison au lieu de louer des capacités de cloud computing nous permet de répartir le coût de fonctionnement de modèles plus exigeants sur notre propre matériel. Cette ligne de travail s'inscrit dans la stratégie suivie par NVIDIA ces dernières années, axée sur l'offre d'outils qui facilitent l'utilisation de l'intelligence artificielle générative directement sur ses propres cartes graphiques grand public, sans nous obliger à dépendre exclusivement de serveurs externes pour en profiter.
L'entreprise insiste depuis quelques temps pour qu'une bonne partie de ses clients ayant GPU RTX Ils ont une capacité de calcul suffisante pour exécuter des modèles de taille moyenne, et PAIR s'inscrirait précisément dans cette idée : ajouter cette puissance répartie entre plusieurs ordinateurs au lieu de la laisser inutilisée dans chaque ordinateur séparément.
Ce qui reste à confirmer sur les exigences techniques
NVIDIA n'a pas encore publié de liste détaillée et définitive des systèmes d'exploitation, des graphiques spécifiques ou des exigences minimales de mémoire et de stockage nécessaires pour participer à un cluster PAIR. Il n'a pas non plus proposé de données officielles sur les temps d'exécution ou l'amélioration des performances des tests avec plusieurs agents travaillant en même temps, au-delà du postulat général selon lequel les charges avec de nombreuses requêtes simultanées et indépendantes sont celles qui bénéficient le plus de la répartition du travail entre plusieurs équipes.
Ce qui est devenu clair, c'est que l'outil est conçu pour coexister avec le logiciel d'inférence que chaque utilisateur utilise déjà, agissant comme un intermédiaire qui distribue le travail sans remplacer ces moteurs ni fusionner le matériel dans un seul accélérateur. Reste à savoir si le constructeur NVIDIA détaille dans mises à jour à venir quels graphiques, processeurs et systèmes d'exploitation seront finalement officiellement pris en charge, ainsi que si le projet est ouvert aux contributions externes une fois cette première phase avancée. C'est un logiciel que vous pouvez télécharger à partir d'ici sans frais.
FAQ Nvidia PAIR Il s'agit d'un logiciel gratuit présenté par Nvidia qui connecte plusieurs ordinateurs domestiques sur le même réseau pour distribuer des tâches d'inférence d'intelligence artificielle sans télécharger les données sur le cloud.
Non. Nvidia confirme que le cluster résultant ne regroupe pas la mémoire GPU, bien qu'il répartisse la charge de travail entre les ordinateurs connectés.
Non, Nvidia distribue gratuitement PAIR pour connecter des ordinateurs dans un cluster d'inférence d'IA sur site.
Qu’est-ce que Nvidia PAIR ?
PAIR mutualise-t-il la mémoire de plusieurs cartes graphiques ?
Dois-je payer pour utiliser PAIR ?