Le poste de travail compact de JWIPC W638 AI montré dans cinq finitions de châssis

SHENZHEN, Chine- JWIPC a présenté le W638, une station de travail de l'IA générative compacte conçue pour les organisations et les développeurs qui ont besoin d'exécuter de grands modèles de langage, des applications multimodales et des agents d'IA proches de leurs données. Le système est disponible avec les modules NVIDIA Jetson T4000 ou T5000 et fournit jusqu'à 2 070 TFLOPS FP4 clairsemés de performances AI, 128 Go de mémoire unifiée et 273 Go/s de bande passante mémoire.

À mesure que les charges de travail de l'IA passent de l'expérimentation aux opérations quotidiennes, les équipes doivent équilibrer la capacité du modèle avec les coûts d'inférence cloud, la latence, la gouvernance des données et la complexité du déploiement. Le W638 fournit une plate-forme côté bureau pour les charges de travail qui peuvent être hébergées localement, permettant aux modèles et aux données de rester sur le périphérique tout en réduisant la dépendance aux API cloud dosées.

Calcul et mémoire pour l'IA locale

Le W638 est construit sur la plate-forme NVIDIA Jetson Thor et utilise un GPU d'architecture Blackwell avec des noyaux tenseurs de cinquième génération. La configuration T5000 combine un processeur 14-core Arm Neoverse V3AE avec jusqu'à 2 070 TFLOPS FP4 clairsemés, tandis que la configuration T4000 offre jusqu'à 1 200 TFLOPS FP4 clairsemés et 64 Go de mémoire. Cette gamme permet aux clients de choisir une plate-forme en fonction de la taille du modèle, des objectifs de débit et du budget de déploiement.

Les configurations T5000 et T4000 dimensionnent le W638 pour différentes charges de travail locales d'IA

La mémoire unifiée permet au CPU et au GPU d'accéder au même pool de mémoire, réduisant ainsi les mouvements de données inutiles entre des espaces mémoire distincts. Avec jusqu'à 128 Go de capacité et 273 Go/s de bande passante, le W638 est conçu pour les modèles de langage à poids ouvert, les modèles de langage de vision et les flux de travail d'agent de longue durée. La capacité et le débit réels du modèle dépendent de l'architecture du modèle, de la quantification, de la longueur du contexte et de l'optimisation de l'exécution.

Déploiement d'un agent local

Pour les charges de travail exécutées localement, le W638 peut conserver des invites, des fichiers, des modèles et des données d'inférence sur le poste de travail. Ce modèle de déploiement prend en charge les entreprises qui ont besoin d'un contrôle plus strict des informations propriétaires, des coûts d'exploitation prévisibles ou d'un accès à faible latence sans compter sur une connexion cloud continue. Il supprime également les frais d'API cloud par requête pour les inférences effectuées sur l'appareil, bien que les coûts d'infrastructure, de logiciels et d'énergie s'appliquent toujours.

Le W638 peut être fourni avec les options logicielles NVIDIA NemoClaw ou JWIPC JWiClaw, en fonction de la configuration sélectionnée. NVIDIA NemoClaw est une pile de référence open-source permettant d'exécuter des agents IA pris en charge dans les sandbox NVIDIA OpenShell avec des contrôles de stratégie pour les fichiers, les réseaux et les informations d'identification. JWiClaw fournit une interface visuelle destinée à simplifier le déploiement du modèle et l'installation des compétences pour les utilisateurs qui préfèrent un flux de travail guidé.

W638 peut être employé dans beaucoup de senarios

Test de performance interne JWIPC

JWIPC a évalué le W638 avec l'inférence locale et les charges de travail des agents. Lors d'un test de génération de code sur une configuration Jetson AGX Thor, le système a atteint 42,3 jetons par seconde avec vLLM et 32,25 jetons par seconde avec Ollama. Une configuration T5000 avec un SSD de 2 To a atteint 90,7 jetons par seconde lors de l'exécution de Qwen 30B A3B dans l'environnement de laboratoire spécifié.

Note sur les performances: Les résultats reflètent les tests internes du JWIPC dans des paramètres logiciels, modèles et matériels spécifiques. Les performances peuvent varier selon la version du modèle, la quantification, l'exécution, la longueur du contexte et le réglage du système.

Design compact et connectivité haute vitesse

Le W638 mesure 130x125x75mm et pèse environ 1,3 kg, ce qui le rend approprié pour le développement côté bureau, les environnements de studio et les bureaux à espace limité. Sa clôture refroidie par air emploie la ventilation de nid d'abeilles pour soutenir l'opération soutenue dans une empreinte de pas compacte. Les options de stockage incluent les SSD NVMe de 1 To ou 2 To.

Le W638 mesure 130x125x75mm et pèse environ 1,3 kg

La connectivité comprend deux ports RJ45 10GbE, quatre ports USB 3.2 Type-A, un port USB Type-C et deux sorties HDMI 2.1 prenant en charge jusqu'à 4K à 60Hz. Wi-Fi 6 et Bluetooth 5.3 sont également disponibles. L'ensemble d'interface prend en charge les jeux de données locaux, les flux de travail basés sur NAS, les affichages multiples et les périphériques de développement communs sans compter sur des adaptateurs supplémentaires pour la connectivité de base.

Spécifications clés

Informations sur le produit

Pour les spécifications et les détails de configuration, visitez le JWIPC W638 page produit. Pour OEM et ODM demandes de renseignements contact Overseasales@jwele.com.cn.

À propos de JWIPC

JWIPC est un fournisseur coté de matériel et de solutions informatiques intelligents pour les infrastructures d'IA, l'IoT industriel, les TIC, les terminaux commerciaux et les systèmes grand public. La société accompagne ses clients depuis la définition des produits et le développement matériel jusqu'à l'intégration système, la validation et la production de masse. JWIPC est cotée à la Bourse de Shenzhen sous le code 001339.

Références techniquesJWIPC W638  |  NVIDIA Jetson Thor  |  NVIDIA NemoClaw