Highlights 22 items
15 outils open source à mettre dans sa toolbox IA
文章盘点了GitHub上热度高的多款开源AI工具与组件，覆盖本地推理与异构部署（Colibri的MoE推理引擎、WebLLM的WebAssembly/WebGPU推理、stable-diffusion.cpp的C/C++扩散模型后端）、知识管理（Tencent的WeKnora）以及LLM路由与成本控制（9Router在多供应商间自动切换计费层级并处理配额/OAuth）。同时还包括面向开发与工作流的
AMD rachète Taalas pour accélérer sur l’inférence IA
AMD宣布收购位于多伦多、成立于2023年的AI推理芯片初创公司Taalas，交易仍需满足常规交割条件及监管批准。Taalas开发面向AI推理的专用硅加速器，通过把部分模型参数直接集成到硬件中来降低计算与内存瓶颈、提升性能与能效（但灵活性低于通用GPU，模型更新需重新适配），其首款产品计划可运行Llama 3.1的轻量版本。此举旨在补强AMD“全栈”AI平台（Instinct GPU、EPYC、R
Telex : Groq lève 650 M$ pour développer sa plateforme cloud, Une norme ouverte pour identifier et vérifier les agents IA, Windows 11 26H2 facile à déployer
Groq获6.5亿美元融资以发展其云平台，推动AI推理服务扩展。一项开放标准发布，用于识别与验证AI代理，增强互操作性。Windows 11 26H2版本部署更简便，有望提升企业更新效率。