Open source agentic tooling is currently booming on GitHub, with projects such as OpenClaw, Superpowers, Hermes, ECC, DeepSeek Harness and Andrej Karpathy’s Claude Code skill drawing strong attention. Broadening the view beyond agents, the article highlights 15 active repositories spanning the wider AI stack: heterogeneous inference, routing layers, knowledge management, local research, speech, and prompt tooling. The selection is ordered by star count.

MarkItDown, from Microsoft and licensed under MIT, converts many file formats into Markdown while preserving structure such as entities, lists, tables and links. It is positioned as a more structure-aware alternative to textract, and offers plugins for OCR and Azure Cognitive Services, including support for video and structured fields.

OpenHands Agent Canvas is a self-hosted npm front end, also MIT-licensed, for controlling ACP-compatible coding agents. It defaults to OpenHands’ own agent but can work with others on local or remote back ends. It can be connected to automation servers such as GitHub, Slack or Linear, as well as an ingress service.

Colibri, created by computer vision engineer Vincenzo Fornaro, is an Apache 2.0 inference engine focused on mixture-of-experts models. It supports CPU, CUDA, Metal and NUMA back ends, and its key feature is a unified storage hierarchy combining RAM, VRAM and NVMe, with just-in-time parameter distribution. Supported model families include DeepSeek, GLM, Inkling, Kimi, OLMoE and Qwen.

Tencent’s WeKnora is a knowledge-management tool under MIT. It combines hybrid search — lexical and semantic, with optional agentic behavior — with automated wiki generation and knowledge graphs. Models, vector databases and storage back ends are interchangeable. It also includes a browser-control extension, integrations with productivity tools such as Confluence, GitLab and Notion, and instant messaging platforms, plus an MCP server, a ClawHub skill and a plug-in for the DeepSeek harness.

9Router is a local LLM gateway, MIT-licensed, that automatically switches between three billing tiers: paid subscriptions such as Claude Code, Codex, GitHub Copilot and Gemini; “economical” models like GLM, Kimi and MiniMax; and free versions of Kiro, OpenCode and Vertex AI. It supports multiple accounts per provider with automatic load balancing, chaining several providers into a “virtual provider,” quota tracking, automatic OAuth token refresh, local embedding, and compression of tool outputs before sending them to LLMs.

Obscura, under Apache 2.0, is a headless browser presented as a lighter alternative to Chrome, with faster startup and better session isolation. It is compatible with the Chrome DevTools protocol and can be driven by Puppeteer and Playwright. Cloudflare has cited it as an inspiration for Kitesurf, its own headless browser.

Llamafile extends the Cosmopolitan/APE portability approach to llama.cpp, allowing LLMs to be distributed as a single executable file containing both weights and inference code, with no installation required. Licensed under Apache 2.0, it has a lightweight version without bundled CUDA or Vulkan libraries, and can use external weights to bypass Windows’ 4 GB executable limit. Its latest server release includes a catalog of about a dozen models, including Mistral and Qwen.

WebLLM targets browsers through WebAssembly and WebGPU, and supports Web Workers to offload tasks into separate threads. Also Apache 2.0, it comes from the MLC community, associated with OctoML and Carnegie Mellon, and relies on machine learning compilation: capturing a tensor-operation graph and lowering it into low-level representations to enable heterogeneous execution.

ChatGPTBox is a MIT-licensed browser extension for Chromium, Firefox and Safari that offers multiple ways to access ChatGPT: floating chat windows, a dedicated page, and context-menu actions such as summarization, translation, sentiment analysis and code explanation. It includes site-specific integrations for GitHub, Reddit, Stack Overflow, YouTube and search engines, all of which can be disabled, and can also connect to third-party OpenAPI-format models and Ollama servers.

Local Deep Research is a local research assistant under MIT with several modes: quick summary, deep research, report generation, document analysis and Q&A. It supports multiple strategies, including an autonomous one based on LangGraph. The project includes a REST API, MCP server, dashboard and evaluation tools, and is designed to run on a RTX 3090. It supports DeepSeek, Gemma, Llama, Mistral and Qwen via Ollama, LM Studio and llama.cpp.

OpenWhispr is a MIT-licensed dictation app for Windows, Mac and Linux. It can process audio locally using Whisper, Orukeet, NVIDIA Parakeet and Cohere Transcribe with unlimited usage, or online via GPT-5, Claude, Gemini, Groq, Tinfoil and OpenRouter, capped at 2,000 words per week. Diarization is local, and it can automatically transcribe Zoom, Teams and FaceTime meetings, as well as imported files. Screenshots can be supplied as context, transcripts are stored in SQLite with optional cloud sync, and output is inserted at the cursor by default or copied to the clipboard.

Code2Prompt, led by Swiss ML engineer Olivier D’Arcona, a doctoral researcher at the University of Fribourg, aims to optimize the conversion of codebases into prompts. Under MIT, it supports customization through Handlebars templates and Glob patterns, and is available as an API, Python SDK, skill and MCP server.

stable-diffusion.cpp applies the llama.cpp-style pure C/C++ inference approach to diffusion models for image and video, using GGML and multiple back ends: CPU, CUDA, Vulkan, Metal, OpenCL and SYCL. MIT-licensed, it includes extensions for ESRGAN upscaling, SDXL editing with PhotoMaker, style transfer with IP-Adapter, and object removal with ADetailer using YOLOv8.

GodMode is a MIT-licensed desktop app for Windows, Mac and Linux that brings together the web versions of multiple chatbots — ChatGPT, Claude, Perplexity, Bing and others — in a single interface. Its distinctive feature is simultaneous prompt submission to all of them. The choice of web apps over APIs is deliberate: some features appear there first or are exclusive to the web, and it also covers services without APIs, such as Poe, or with APIs only for certain models, such as Perplexity.

The article closes with two GitHub “Awesome” lists: Awesome Prompt Engineering and Awesome Local LLM. Like other Awesome compilations across topics such as self-hosting, hacking, OSINT, command-line tools and microservices, they gather reference articles, tools, models, datasets, benchmarks and tutorials for prompt/context engineering and local AI.

OpenClaw, Superpowers, Hermes, ECC, DeepSeek Harness, la skill Claude Code d’Andrej Karpathy… Sur GitHub, l’outillage agentique a actuellement une popularité sans égale.

Nous élargissons ici la perspective à l’ensemble des briques de l’écosystème IA : inférence hétérogène, passerelles de routage, gestion des connaissances, etc. En voici quelques-unes dont les dépôts sont actifs. Elles sont classées par nombre d’étoiles.

MarkItDown

Utilitaire Python sous licence MIT qui convertit divers formats de fichiers en Markdown. Signé Microsoft, il est comparable à textract, avec un focus sur la préservation de la structure (entités, listes, tables, liens).

Quelques plug-in sont disponibles, notamment pour l’OCR et pour la jonction avec les services cognitifs Azure. Lesquels apportent, entre autres, la gestion de la vidéo et des champs structurés.

OpenHands Agent Canvas

Front-end autohébergé (package npm) sous licence MIT pour piloter les agents de codage compatibles ACP. Il utilise par défaut l’agent d’OpenHands, mais peut en exploiter d’autres, sur back-end local ou distant. On peut lui greffer un serveur d’automatisation (GitHub, Slack, Linear…) et un service ingress.

Colibri

Vincenzo Fornaro, ingénieur spécialisé en vision par ordinateur, est à l’origine de ce moteur d’inférence axé sur les modèles à mélange d’experts (MoE). Sous licence Apache 2.0, il gère les back-ends CPU, CUDA, Metal et NUMA. Sa principale caractéristique est d’assembler RAM, VRAM et NVMe en une même hiérarchie de stockage, avec un fonctionnement juste-à-temps distribuant les paramètres. Principales familles de modèles prises en charge : DeepSeek, GLM, Inkling, Kimi, OLMoE et Qwen.

WeKnora

Tencent a développé cet outil de gestion des connaissances. Sous licence MIT, il associe recherche hybride (lexicale et sémantique ; éventuellement agentique) et création automatisée de wikis avec graphes de connaissances.

Modèles, bases vectorielles et back-ends de stockage sont interchangeables. Une extension permet de piloter les navigateurs web. Diverses intégrations existent avec des outils de productivité (Confluence, GitLab, Notion…) et des messageries instantanées. WeKnora a un serveur MCP, une skill ClawHub et un plug-in pour le harnais DeepSeek.

9Router

Cette passerelle LLM locale est sous licence MIT. Elle bascule automatiquement entre trois niveaux de facturation :

Abonnements Claude Code, Codex, GitHub Copilot et Gemini

Modèles « économiques » (GLM, Kimi, MiniMax)

Versions gratuites de Kiro, d’OpenCode et de Vertex AI

On peut utiliser plusieurs comptes par fournisseur, avec équilibrage automatique de la charge. Et en chaîner plusieurs en un « fournisseur virtuel ». 9Router gère le suivi des quotas et le rafraîchissement automatique des jetons OAuth. Il peut effectuer l’embedding en local et compresser les résultats des outils avant envoi aux LLM.

Obscura

Licence Apache 2.0 pour ce navigateur headless. Il est présenté comme une alternative à Chrome, moins gourmande en mémoire, avec une initialisation plus rapide et une meilleure isolation des sessions.

Obscura est compatible avec le protocole Chrome DevTools. On peut y connecter Puppeteer et Plawright. Cloudflare le cite comme une source d’inspiration dans le cadre du développement de Kitesurf, son propre navigateur headless.

Llamafile

À l’origine, il y avait Cosmopolitan. Ce projet fondé sur le format APE (Actually Portable Executable) visait à faire de C un langage vraiment « portable » en reconfigurant GCC et Clang pour produire un format POSIX utilisable sur de multiples OS et architectures CPU.

Appliqué au framework llama.cpp, cela donne Llamafile, qui permet de distribuer des LLM (poids + code d’inférence) en un seul fichier, exécutable sans installation.

Sous licence Apache 2.0, Llamafile existe en version « légère », sans bibliothèques CUDA et Vulkan embarquées. Pour contourner la limite à 4 Go des fichiers exécutables sous Windows, il permet d’utiliser des poids externes. La dernière version du serveur gère un catalogue d’une douzaine de modèles, dont du Mistral et du Qwen.

WebLLM

Autre moteur d’inférence, qui cible quant à lui les navigateurs via WebAssembly et WebGPU. Sous licence Apache 2.0, il gère Web Workers, permettant de déporter des tâches dans des threads distincts.

C’est un projet de la communauté MLC (Machine Learning Compilation), à l’origine de laquelle on trouve notamment OctoML et Carnegie-Mellon. Elle exploite le principe de la compilation ML (capture d’un graphe des opérations tensorielles ensuite transformé en représentations de bas niveau) pour favoriser l’exécution hétérogène.

ChatGPTBox

Cette extension de navigateur (Chromium, Firefox, Safari) sous licence MIT donne divers moyens d’accéder à ChatGPT : fenêtres de discussion flottantes, page dédiée, actions dans le menu contextuel (résumé, traduction, analyse de sentiment, explication de code…).

ChatGPTBox a des intégrations spécifiques avec certains sites (GitHub, Reddit, Stack Overflow, YouTube, moteurs de recherche…). Elles sont désactivables. On peut le connecter à des modèles tiers au format OpenAPI et à des serveurs Ollama.

Local Deep Research

Cet assistant de recherche local sous licence MIT a plusieurs modes de fonctionnement : résumé rapide, recherche détaillée, création de rapport, analyse de document, questions-réponses. Il peut exploiter plusieurs stratégies, dont une autonome à base de LangGraph.

Local Deep Research comprend une API REST, un serveur MCP, un tableau de bord et des évaluations. Censé pouvoir fonctionner sur une RTX 3090, il gère notamment des modèles DeepSeek, Gemma, Llama, Mistral et Qwen, via Ollama, LM Studio et llama.cpp.

OpenWhispr

Application de dictée vocale sous licence MIT pour Windows, Mac et Linux. Elle peut traiter l’audio en local (modèles Whisper, Orukeet, NVIDIA Parakeet et Cohere Transcribe ; usage illimité) ou en ligne (GPT-5, Claude, Gemini, Groq, Tinfoil, OpenRouter ; usage limité à 2000 mots par semaine).

La diarisation se fait en local. OpenWhispr peut retranscrire automatiquement les réunions Zoom, Teams et FaceTime, en plus des fichiers importés. On peut lui transmettre des captures d’écran en guise de contexte. Tous les éléments transcrits sont stockés dans une base SQLite avec option de synchronisation cloud. Par défaut, les réponses apparaissent là où se trouve le curseur. Elles vont sinon dans le presse-papiers.

Code2Prompt

Olivier D’Arcona, ingénieur ML suisse doctorant à l’université de Fribourg (thèse sur l’analyse de documents par LLM dans la finance et le juridique) est le principal développeur de Code2Prompt.

Sous licence MIT, l’outil promet d’optimiser la conversion des codebases en prompts, en permettant la personnalisation par templates Handlebars et patterns Glob. Il est disponible en API, DSK Python, skill et serveur MCP.

stable-diffusion.cpp

L’approche llamafile.cpp (inférence en C/C++ pur) appliquée aux modèles de diffusion – image et vidéo – sur la base de GGML, pour une variété de back-ends (CPU, CUDA, Vulkan, Metal, OpenCL, SYCL).

Sous licence MIT, stable-diffusion.cpp a diverses extensions, dont :

Upscaling avec ESRGAN

Édition des images SDXL avec PhotoMaker

Transfert de motifs avec IP-Adapter

Suppression d’objets avec ADetailer (qui utilise YOLOv8)

GodMode

Cette application de bureau (Windows, Mac, Linux) sous licence MIT réunit sur une même interface les versions web de divers chatbots (ChatGPT, Claude, Perplexity, Bing, etc.). Sa particularité : elle leur envoie les prompts en simultané.

Les web apps ont été préférées aux API parce que certaines fonctionnalités y sont intégrées en avance, voire leur sont réservées. Cela permet aussi de couvrir les services qui n’ont pas d’API (Poe, par exemple) et ce qui n’en ont que pour certains modèles (Perplexity).

Listes « Awesome Prompt Engineering » et « Awesome Local LLM »

Sur GitHub, nombre de thématiques ont leur(s) « liste(s) Awesome », qui prennent généralement la forme de compilations de liens.

Il y en a, par exemple, pour l’autohébergement, le hacking, l’OSINT, les outils en ligne de commande ou les microservices. Nous en mettons ici deux en avant, dédiées respectivement au prompt engineering / context engineering et à l’IA locale. Leur contenu est similaire : articles de référence, outils, modèles, datasets, benchmarks, tutoriels…

Illustration principale générée par IA

The post 15 outils open source à mettre dans sa toolbox IA appeared first on Silicon.fr.