AI安全:OSAA转向Linux Foundation

Sécurité de l’IA : l’OSAA bascule sous la Linux Foundation

Silicon.fr Quality unknown · 质量未知 by Philippe Leroy 2026-09-03 10:07 Original
摘要
NVIDIA推动下成立的开放安全AI联盟(OSAA)已正式并入Linux Foundation,后者强调其将以供应商中立的治理方式开发开源工具、共享标准与防御实践,帮助组织审查、审计并保障AI系统安全;NVIDIA仍是重要贡献者,但不再单独控制路线图与发布规则。OSAA已提出RFC“Shared AI Findings Exchange(SAFE)”工作组,用于对AI安全事件与“险情”进行保密共享与复盘,并加速在GitHub等流程下形成可复用的检测规则、测试与响应措施;同时多方贡献被视为构建“可移植防御栈”的模块(如Microsoft MDASH、HPE SPIFFE/SPIRE、Hugging Face Safetensors、IBM/Red Hat Lightwell、以及NVIDIA的模型与检测工具)。对企业与DSI/RSSI而言,这有望降低对单一厂商安全方案的依赖,并提升在混合云/本地/主权环境中集成AI安全控制与合规的可信度。

几周前在 NVIDIA 推动下成立的 Open Secure AI Alliance(OSAA),如今已正式并入 Linux Foundation,成为其旗下项目。Linux Foundation 表示,OSAA 将围绕开源工具、共享标准和防御实践展开,帮助组织对 AI 系统进行检查、审计与加固。

这一转变的核心意义在于治理结构的“去供应商化”:OSAA 不再由单一厂商主导路线图和发布规则,而是拥有独立治理机制。这不仅提升了其在受监管行业中的可信度,也让技术贡献与战略决策实现分离。NVIDIA 仍是重要贡献者,继续提供模型、数据、agent-harness、OpenShell 等资源,但不再独自掌控项目方向。

Linux Foundation 强调,AI 安全必须被视为“供应商、平台和行业共同面对的挑战”。因此,OSAA 的目标并不是绑定某一模型或云平台,而是打造一套可移植的防御栈(portable defense stack),能够适用于不同模型、不同云服务商以及不同的 agent 运行环境。当前已出现的技术积木包括:Microsoft 的 MDASH、HPE 基于 SPIFFE/SPIRE 的工作负载身份方案、Hugging Face 的 Safetensors 格式、IBM/Red Hat 的 Lightwell,以及 NVIDIA 的模型和检测工具等。

对企业 CIO、CISO 和架构师而言,这种多供应商、可移植的安全框架有望降低对单一厂商的安全依赖,并更容易嵌入混合架构,包括本地部署(on-prem)、公有云和主权云环境。OSAA 的覆盖范围也不局限于模型本身,而是延伸到 AI agent 的整条链路:从推理、运行时上下文、控制机制(harnesses)、安全策略、身份管理、治理与规则执行,到风险隔离、故障恢复,甚至底层硬件信任根。

在治理和流程层面,OSAA 也在加速开源化运作。联盟在正式转入 Linux Foundation 之前,已启动首个重要 RFC:Shared AI Findings Exchange(SAFE),这是一个用于机密上报 AI 相关事故和“near misses”的框架。Linux Foundation 的加入意味着更成熟的开源流程:发布、社区评审、GitHub issue/PR 管理,以及更广泛的维护者和网络安全工程师参与。Linux Foundation 还明确表示,在其“中立治理”下,这个社区可以更快构建开放、共享的 AI 安全栈;SAFE 正是其中一项关键 инициатив,帮助组织共享威胁情报、共同应对新兴 AI 安全风险。

SAFE 目前被定义为众多潜在工作组之一,未来还可能扩展到身份、隔离、策略、可观测性、恢复等方向,这意味着 OSAA 后续可能围绕 agent 安全栈的不同组件继续推出 RFC。其目标是形成一套“可测试、可审计、可集成”的安全能力,与现有企业安全体系对接,包括工作负载身份、隔离、密钥管理、完整性证明、访问控制和可观测性等。

SAFE 的机制也借鉴了航空业的经验,尤其是 NASA 的 ASRS 系统:鼓励对事故和险情进行经验回传,同时尽量避免让参与方因披露问题而承担过高法律风险,从而把一线经验转化为可复用的检测规则、安全配置、参考架构和事件响应流程。它不仅关注模型,还会分析工具、运行环境、监控、人工介入以及供应链依赖等因素,最终形成可落地的改进措施。

对企业采购和合规来说,OSAA 加入 Linux Foundation 也提升了其在招标和标准化中的分量。未来,采购方可能会要求或优先选择兼容 OSAA 标准和 SAFE 控制项的产品,相关成果甚至可能演变为内部基线或行业要求。不过,当前仍有明显不确定性:OpenAI、Google、Anthropic、Meta 等主要大模型厂商并未进入创始核心圈,这意味着其市场覆盖面仍待验证;同时,SAFE 目前仍处于 RFC 讨论阶段,参考实现和具体工具还在定义与采纳过程中。

Linux Foundation 对此的总结很直接:AI 安全是一个共享挑战,解决它需要一个开放生态,让组织能够跨越供应商、平台和行业协作。

Summary
The Open Secure AI Alliance (OSAA), initially launched with NVIDIA’s backing, has officially moved under the Linux Foundation to develop open-source tools, shared standards, and defensive practices for securing AI systems. NVIDIA remains a major contributor, but governance is now vendor-neutral, with OSAA aiming for a portable “defense stack” across models, cloud providers, and agent runtimes; early building blocks include Microsoft’s MDASH, HPE’s SPIFFE/SPIRE for workload identity, Hugging Face’s Safetensors, IBM/Red Hat’s Lightwell, and NVIDIA’s inspection tools. The Linux Foundation also highlighted OSAA’s SAFE effort—an RFC for confidential sharing of AI security incidents and near-misses—to accelerate standardized security learning and reduce single-vendor dependency for enterprise AI security architectures.

A few weeks after NVIDIA launched the Open Secure AI Alliance (OSAA), the initiative has formally moved under the umbrella of the Linux Foundation. The Foundation says the alliance, originally founded by NVIDIA, will develop open source tools, shared standards and defensive practices to help organizations inspect, audit and secure AI systems.

The shift matters because it creates vendor-neutral governance, strengthens OSAA’s credibility in regulated industries, and separates technical contributions from strategic control. NVIDIA remains a major contributor — including models, data, agent harnesses and OpenShell — but it no longer sets the roadmap or publication rules alone.

The Linux Foundation is framing AI security as a collective problem requiring “collaboration between vendors, platforms and industries.” In practical terms, OSAA is aiming for a multi-vendor “portable defense stack” that works across models, cloud providers and agent runtime environments. Early technical building blocks already span several companies: Microsoft’s MDASH, HPE’s use of SPIFFE/SPIRE for workload identity, Hugging Face’s Safetensors format, IBM/Red Hat’s Lightwell, and NVIDIA’s own inspection tools and models.

For enterprise IT leaders, that portability could reduce dependence on a single supplier for AI security and make it easier to integrate these controls into hybrid architectures, including on-prem, public cloud and sovereign cloud environments.

Even before the transfer, OSAA had begun its first major RFC around the Shared AI Findings Exchange (SAFE), a framework for confidential reporting of AI-related incidents and near misses. Under the Linux Foundation, that RFC process should move faster thanks to a mature open source workflow for publishing, community review and GitHub issue/PR management, plus access to a broad base of maintainers and cybersecurity engineers.

The Foundation says that, under its neutral governance, the community can accelerate development of an open, shared AI security stack. SAFE is positioned as one working group among several possible areas — alongside identity, isolation, policy, observability and recovery — opening the door to more RFCs covering specific parts of the agent security stack.

OSAA’s scope goes well beyond models. It aims to secure the full AI agent chain, from inference down to the hardware trust base. That includes execution context, control mechanisms, security policies, identity management, governance, enforcement, risk containment, incident recovery and hardware-rooted trust. For CISOs and architects, the appeal is a set of controls designed to fit existing systems: workload identity, isolation, key management, integrity proofs, access policies and observability, all meant to be testable, auditable and integrable into current processes.

SAFE also includes confidential reporting of incidents and near incidents, with relevant parties informed. Reports can be analyzed across models, guardrails, tools, runtime environments, monitoring, human intervention and supply-chain dependencies, with the goal of producing reusable outputs such as new tests, detection rules, security policies, reference configurations and incident response procedures. The model echoes the NASA ASRS approach in aviation: encourage operational learning without automatically exposing participants to legal risk.

The Linux Foundation’s backing should also improve OSAA’s standing in procurement and compliance. Buyers may increasingly require or prefer solutions compatible with OSAA standards and tools, while SAFE-derived controls could become internal benchmarks or even sector-specific requirements.

One caveat remains: major AI labs such as OpenAI, Google, Anthropic and Meta are still absent from the founding core, limiting how representative the alliance is of the broader market. SAFE is also still only an RFC under discussion, with reference implementations and concrete tools yet to be finalized and adopted.

Résumé
Quelques semaines après son lancement porté par NVIDIA, l’Open Secure AI Alliance (OSAA) devient officiellement un projet de la Linux Foundation, avec une gouvernance indépendante des fournisseurs et une feuille de route désormais non contrôlée par NVIDIA seule. La Fondation vise une “stack de défense portable” multi-vendeurs pour sécuriser la chaîne des agents d’IA, et accélère notamment via le processus RFC, dont le Shared AI Findings Exchange (SAFE) pour le partage confidentiel d’incidents et quasi-incidents. Microsoft (MDASH), HPE (SPIFFE/SPIRE), Hugging Face (Safetensors), IBM/Red Hat (Lightwell) et NVIDIA contribuent déjà à des briques complémentaires, avec un impact attendu pour les DSI/RSSI en réduisant le risque de dépendance et en renforçant la crédibilité d’intégrations hybrides (on-prem, cloud, souverain).

Quelques semaine après son lancement sous l’impulsion de NVIDIA, l’Open Secure AI Alliance (OSAA) devient officiellement un projet de la Linux Foundation.

« Initialement fondée par NVIDIA, l’Open Secure AI Alliance développera des outils open source, des standards partagés et des pratiques défensives qui aideront les organisations à inspecter, auditer et sécuriser les systèmes d’IA. » indique le nouvel hôte.

Concrètement, cela signifie un organe de gouvernance indépendant de tout fournisseur, une légitimité renforcée auprès des secteurs régulés et une séparation entre contributions techniques et pilotage stratégique.

Si NVIDIA reste un contributeur majeur (modèles, données, agent-harness, OpenShell, etc.), elle ne contrôle plus seul la feuille de route ni les règles de publication.

La Linux Foundation met en avant la nécessité d’une « collaboration entre fournisseurs, plateformes et secteurs d’activité » pour traiter la sécurité de l’IA comme un défi partagé.

Dans les faits, la neutralité se traduit par un périmètre multi-vendeurs explicite : l’OSAA vise une « stack de défense portable », efficace quel que soit le modèle, le fournisseur de cloud ou l’environnement d’exécution des agents.

Plusieurs contributions techniques, issues de différents acteurs, sont déjà présentées comme des briques complémentaires d’un même édifice : Microsoft avec MDASH, HPE avec SPIFFE/SPIRE pour l’identité des workloads, Hugging Face avec le format Safetensors, IBM/Red Hat avec Lightwell, et NVIDIA avec ses modèles et ses outils d’inspection. »

Pour les DSI, cette logique de défenses portables et de gouvernance neutre devrait, à terme, réduire le risque de dépendance à un seul fournisseur pour la sécurité de l’IA et renforcer la crédibilité d’une intégration de ces briques dans des architectures hybrides (on-prem, cloud public, souverain).

Rythme des RFC : un processus open source industrialisé

Avant même le transfert, l’OSAA avait lancé un premier grand chantier sous forme de RFC : le Shared AI Findings Exchange (SAFE), un cadre de remontée confidentielle d’incidents et de « near misses » liés à l’IA.

Le rattachement à la Linux Foundation devrait accélérer le cycle des RFC : la Fondation apporte un processus rodé (publication, revue communautaire, gestion des issues/PR sur GitHub) et une audience large de mainteneurs et de d’ingénieurs en cybersécurité.

La Linux Foundation souligne que, « sous la gouvernance neutre de la Linux Foundation, cette communauté peut accélérer le développement d’une stack de sécurité ouverte et partagée pour l’IA. Cela inclut des initiatives telles que le Shared AI Findings Exchange (SAFE), qui permet aux organisations de partager du renseignement sur les menaces et de renforcer collectivement leurs défenses face aux risques émergents en sécurité de l’IA. »

SAFE est présenté comme un « groupe de travail » parmi d’autres possibles (identité, isolation, politiques, observabilité, recovery), ce qui ouvre la voie à d’autres RFC sur des briques précises de la stack agent.

Participants in the Open Secure AI Alliance have published an RFC proposing the Shared AI Findings Exchange (SAFE) Working Group.

The initiative aims to enable confidential sharing and learning around AI security incidents.

Read the RFC and contribute to the discussion:… pic.twitter.com/wWWmlqT4vM

— The Linux Foundation (@linuxfoundation) August 4, 2026

Impact concret pour les entreprises utilisatrices

L’OSAA ne s’arrête pas aux seuls modèles. Elle vise à sécuriser toute la chaîne des agents d’IA, de l’inférence jusqu’au socle matériel.

Son périmètre englobe le contexte d’exécution des agents, les mécanismes de contrôle (harnesses), les politiques de sécurité, la gestion des identités, la gouvernance, l’enforcement des règles, le confinement des risques, les dispositifs de reprise après incident et jusqu’au socle de confiance matériel.

Pour les RSSI et les architectes, la promesse est celle de contrôles de sécurité qui s’articulent avec l’existant : identité des workloads, isolation, gestion des clés, preuves d’intégrité, politiques d’accès et observabilité. Autant de briques conçues pour être testées, auditées et intégrées dans les processus déjà en place.

Le cadre SAFE prévoit également un dispositif de signalement confidentiel des incidents et quasi-incidents liés à l’IA, avec information des parties concernées.

Les incidents peuvent faire l’objet d’analyses structurées portant aussi bien sur les modèles et les garde-fous que sur les outils, les environnements d’exécution, le monitoring, les interventions humaines ou les dépendances de la supply chain. L’objectif est surtout d’en tirer des mesures concrètes et réutilisables : nouveaux tests, règles de détection, politiques de sécurité, configurations de référence ou procédures de réponse aux incidents.

Pour les grandes organisations, le dispositif reprend une logique déjà éprouvée dans l’aéronautique, notamment avec le système ASRS de la NASA. Il s’agit de favoriser le retour d’expérience sur les incidents sans exposer systématiquement les acteurs à un risque juridique, afin de transformer les enseignements du terrain en mesures de contrôle opérationnelles.

Ce qui ne change (pas encore)

Le rattachement à la Linux Foundation renforce la crédibilité de l’OSAA comme référence dans les appels d’offres et pour la conformité. Les acheteurs pourront exiger ou privilégier des solutions compatibles avec les standards et outils issus de l’OSAA et les contrôles issus de SAFE pourront servir de base à des référentiels internes, voire à des exigences sectorielles.

L’absence de grands laboratoires d’IA (OpenAI, Google, Anthropic, Meta) du noyau fondateur reste un point de vigilance pour la couverture réelle du marché.

SAFE est pour l’instant un RFC en discussion ; les premières implémentations de référence et outils concrets sont en cours de définition et d’adoption.

La Linux Foundation résume bien l’enjeu : « La sécurité de l’IA est un défi partagé. Y répondre nécessite un écosystème ouvert où les organisations peuvent collaborer au-delà des fournisseurs, des plateformes et des secteurs d’activité. »

The post Sécurité de l’IA : l’OSAA bascule sous la Linux Foundation appeared first on Silicon.fr.

AI Insight
Core Point

OSAA从NVIDIA推动的启动阶段正式转为Linux Foundation项目,旨在以中立多厂商治理加速开源AI安全工具与标准(含SAFE),降低单一供应商依赖并提升合规可信度。

Key Players

Open Secure AI Alliance (OSAA) — 开源AI安全工具/标准与防御实践联盟,现隶属Linux Foundation。

Linux Foundation — 开源治理与RFC流程平台,总部在美国。

NVIDIA — AI模型与安全/检测相关工具重要贡献者,总部在美国。

Microsoft — 提供MDASH等AI安全相关组件,总部在美国。

HPE — 提供SPIFFE/SPIRE等工作负载身份与安全基础,总部在美国。

Hugging Face — 提供Safetensors等模型/权重格式,总部在法国。

IBM/Red Hat — 提供Lightwell等安全能力,总部在美国/美国(Red Hat为IBM子公司)。

Industry Impact
  • Computing/AI: High — 以多厂商“可移植防御栈”与SAFE威胁情报/近失事件共享推动AI安全工程化与标准化。
  • ICT: Medium — 通过Linux Foundation中立治理与RFC加速合规与采购可验证性。
  • Energy: Low — 间接影响(企业合规与安全流程),未见直接落地。
Tracking

Strongly track — SAFE与防御栈的RFC/标准化进展将直接影响企业AI安全架构选型、审计与跨云/本地集成路径。

Related Companies
positive
Nvidia
mature
positive
Red Hat
mature
positive
positive
IBM
mature
positive
neutral
positive
Categories
人工智能 软件 网络安全
AI Processing
2026-09-03 17:29
openai / gpt-5.4-nano