Hugging Face was hit by an agentic cyberattack that exploited its dataset-processing pipeline to run code on a worker, steal credentials, node-level access, and laterally move into internal clusters. The company says it found no evidence that public models, datasets, or its software supply chain were tampered with.

However, forensic analysis revealed a “bad surprise”: the initial LLM used in the attack – understood to be an American model accessed via API – had its safety guardrails triggered, blocking malicious requests. To bypass this, the attacker had to switch to a self-hosted open-weight model: GLM 5.2 from Chinese firm Z.ai.

Hugging Face’s CEO Clément Delangue highlighted the incident as proof that “you cannot secure systems with black-box LLMs.” Guardrails that block harmful queries also hindered the company’s defensive AI, forcing a fallback to a model without such controls. Z.ai publicly noted the episode, pledging to improve its deployment documentation.

Delangue framed the incident as a further endorsement of open models, which are central to Hugging Face’s business. The episode took on a political edge given the broader context of rising Chinese model performance on industry leaderboards and ongoing debates around open versus closed AI systems.

On ne peut pas sécuriser des systèmes avec des LLM en boîte noire.

La déclaration est signée Clément Delangue. Elle intervient après une attaque contre Hugging Face, dont il est cofondateur et directeur général.

Cette attaque, pilotée par un système agentique, a exploité deux composantes du pipeline de traitement de datasets. D’un côté, le chargeur de scripts. De l’autre, les fichiers de configuration. L’ensemble a permis d’exécuter du code sur un worker. Puis d’obtenir un accès de niveau nœud, de récupérer des authentifiants et de latéraliser sur des clusters internes.

Hugging Face a dit ne pas avoir de preuve de manipulation de ses modèles et jeux de données publics. Ni de sa supply chain logicielle. Il a aussi affirmé aussi autre chose… qui a résonné bien davantage, et qui explique les propos de Clément Delangue : l’analyse forensique a réservé une « mauvaise surprise ». Sur le LLM initialement utilisé (non spécifié, mais on comprend qu’il s’agit d’un modèle américain, accessible par API), les garde-fous se sont enclenchés et one bloqué les requêtest

Hugging Face indique avoir dû se rabattre sur un modèle open weight autohébergé. En l’occurrence, GLM 5.2, de la société chinoise Z.ai. Laquelle n’a pas manqué l’occasion de promettre qu’elle continuerait à améliorer sa documentation de déploiement.

Clément Delangue y a lui trouvé un relais supplémentaire de promotion des modèles ouverts, qui sont au cœur de l’activité de son entreprise. Dans le contexte qu’on sait, additionné de la montée en puissance des modèles chinois dans les leaderboards, le sujet a pris une dimension politique.

À consulter en complément :

Qui est Moonshot AI, l’éditeur de Kimi ?

Suspension de Claude Mythos : des experts demandent la levée des restrictions

Un premier « ransomware agentique » repéré dans le cyberespace

Pour optimiser les LLM, IBM leur fait faire des divisions

IA : après l’ivresse, le budget

Illustration générée par IA

The post Quand les garde-fous d’un LLM perturbent une cyberdéfense appeared first on Silicon.fr.