VAST Data is extending NVIDIA’s confidential computing capabilities into its own DataEngine orchestrator with a new component called DataEnclave. Built on the confidential enclave model introduced with NVIDIA’s Hopper generation in 2022, the approach creates unified enclaves across CPU and GPU, with VM-to-VM communications protected by encrypted channels.

DataEnclave is currently in preview, with commercial availability planned for the first quarter of 2027. VAST’s pitch is to let model providers and enterprise users deploy inference workloads without relying on infrastructure they do not control. A remote attestation system ensures workloads run only inside the appropriate confidential VMs, while the server remains outside the cluster.

The company says it supports the Trustee protocol from the CNCF Confidential Containers project, and for disconnected deployments it relies on Fortanix. In both cases, each side brings its own KMS. The process follows the architecture defined in RFC 9334. Inside the VMs, model weights are decrypted with keys separate from those used to decrypt workloads, which are delivered as VAST applications combining the inference service and DataEngine configuration.

DataEnclave can also create encrypted ephemeral and persistent volumes for state management. It may be deployed with preloaded partner models in the integrated registry, including Cohere, Deepgram and NVIDIA. On the infrastructure side, Cisco and Supermicro are backing the initiative, while the current cloud partners are Buzz, G42, Nscale and Sharon AI.

VAST acknowledges that confidential computing adds overhead, saying the compute cost increase “can exceed 10%.”

Au tour de VAST Data d’exploiter les capacités de calcul confidentiel de NVIDIA.

Depuis la génération Hopper (2022), il est possible de créer des enclaves unifiées entre CPU et GPU. Les communications entre les VM passent par un canal chiffré.

Sur cette base, VAST Data a greffé à son orchestrateur DataEngine une brique DataEnclave. Elle est en préversion (lancement commercial au premier trimestre 2027). Promesse : éviter le déploiement sur des infrastructures non maîtrisées. Aussi bien du point de vue des fournisseurs de modèles que des entreprises qui les utilisent.

Un système d’attestation garantit que les workloads ne s’exécutent que dans les VM confidentielles appropriées. Le serveur est externe au cluster. VAST assure notamment la compatibilité avec le protocole Trustee du projet CNCF Confidential Containers. Pour les déploiements en mode déconnecté, il s’appuie sur Fortanix. Les deux parties apportent leur propre KMS.

Le processus suit l’architecture définie dans la RFC 9334.

Au sein des VM, le déchiffrement des poids se fait avec des clés distincte de celles qui servent à déchiffrer les workloads. Ces derniers sont livrés sous forme d’applications VAST – associant le service d’inférence et la configuration DataEngine.

DataEnclave peut, pour la gestion d’état, créer des volumes chiffrés éphémères et persistants. On peut éventuellement le déployer avec des modèles de partenaires préchargés dans le registre intégré. Cohere, Deepgram et NVIDIA, entre autres. Côté serveurs, Cisco et Supermicro se sont alliés à la démarche. Côté cloud, ils sont pour l’instant quatre : Buzz, G42, Nscale et Sharon AI.

VAST Data admet qu’il existe un surcoût en compute… qui « peut dépasser 10 % ».

Illustration principale générée par IA

The post VAST Data s’approprie le calcul confidentiel sur GPU NVIDIA appeared first on Silicon.fr.