文章盘点了GitHub上热度高的多款开源AI工具与组件，覆盖本地推理与异构部署（Colibri的MoE推理引擎、WebLLM的WebAssembly/WebGPU推理、stable-diffusion.cpp的C/C++扩散模型后端）、知识管理（Tencent的WeKnora）以及LLM路由与成本控

文章称，OpenAI正从“卖ChatGPT/提供API”转向把模型深度嵌入企业软件：自GPT-4o（2024年5月）起，Box、Zendesk、Salesforce、Intercom等将其作为应用内的AI功能；随后随着GPT-5，模型进一步成为可执行任务的“代理”引擎，GitHub Copilot、

Cloudflare宣布将其“Cloudflare OS”平台开源：该平台整合自Sandstorm演进而来，底层以Cloudflare Workers为核心，并将原Sandstorm的“Grains”改为更轻量隔离的“Gadgets”，运行时workerd与相关机制也可本地使用。参与者包括Sands

前Palantir和Dropbox的两位员工组成创业二人组，推出了能加速AI生成代码落地部署的工具，已获ElevenLabs、Notion和Wiz等客户采用。此举旨在帮助科技公司更快地将AI代码投入生产，提升开发效率。