Actualités

llama.cpp 1.0 et ggml 1.0 : une API stable pour l'IA locale, et Rust 1.100

llama.cpp et ggml passent en 1.0 avec une API C stable. Ce qui change, comment lancer un modèle en local et ce qu'est semver, plus Rust 1.100 et Node.js.

Rédaction CodeWorlds
llama.cpp 1.0 et ggml 1.0 : une API stable pour l'IA locale, et Rust 1.100
  • Hugging Face
  • Ollama
Dans cet article5

Le 13 novembre, l'équipe ggml-org a publié llama.cpp et ggml en version 1.0.0. Beaucoup d'outils qui font tourner des modèles de langage en local reposent sur ces deux bibliothèques. La nouveauté principale n'est pas la vitesse mais une promesse : désormais, tout changement qui casse l'API C impose une nouvelle version majeure.

llama.cpp et ggml 1.0 : versionnage sémantique, ménage dans l'API et serveur plus sûr

ggml est une bibliothèque de calcul sur tenseurs, pour CPU et GPU. llama.cpp s'en sert pour exécuter des modèles de langage et y ajoute libllama, le programme llama cli et un serveur HTTP. ggml v1.0.0 est sorti en premier sur GitHub, et llama.cpp v1.0.0 a suivi moins de deux heures plus tard. Le dépôt de llama.cpp, créé en mars 2023, compte plus de 135 000 étoiles.

Ce que signifie le 1.0

Dans un billet sur le blog de Hugging Face, l'équipe annonce le versionnage sémantique pour les deux bibliothèques. La version majeure augmente quand un changement casse l'API C publique (les en-têtes de include), la mineure avec les nouvelles fonctions, backends et modèles, le patch avec les seules corrections de bugs. Une version majeure signale aussi une rupture d'ABI, qui oblige à recompiler les programmes liés à la bibliothèque.

ggml sortait déjà des versions 0.x, et llama.cpp utilise des tags vX.Y.Z depuis août. Selon les règles de publication de ggml-org, seul llama.h est public, et llama-ext.h peut évoluer sans nouvelle version. Les builds nocturnes avec des tags comme b12359 continuent.

Faire le ménage avant de promettre

llama.h perd 35 fonctions obsolètes, ainsi que llama_set_warmup et l'option --defrag-thold. L'API NextN de décodage spéculatif passe de llama-ext.h à l'en-tête public. Côté ggml, les anciennes opérations DIAG_MASK disparaissent et le protocole RPC passe en version 9 : les nœuds restés sur l'ancien protocole sont refusés. Si vous codez en C ou C++ avec ces bibliothèques, cherchez les appels supprimés avant de mettre à jour.

Nouvelles fonctions et serveur plus sûr

llama.cpp gagne des caches KV en FP8, un cache des experts MoE en mémoire hôte avec une part de CPU réglable, et de nouvelles architectures, dont Kimi-K3.1-Pro et Ripple-65B-Preview. Selon le billet, le projet gère plus de 150 variantes d'architectures. Le serveur reçoit un endpoint /v1/audio/speech compatible OpenAI, et les backends de ggml, de CUDA à WebGPU, ont été optimisés.

Pour un serveur exposé sur un réseau, la sécurité compte davantage. La version corrige une faille SSRF dans le proxy CORS, bloque le DNS rebinding et répare la gestion de --cors-origins. Les outils sans authentification et les médias venant d'adresses privées deviennent des options à activer soi-même (--allow-unauthenticated-tools, --media-allow-private-urls), et le jeton HF_TOKEN n'est plus envoyé qu'aux hôtes huggingface.co. À notre avis, les développeurs qui intègrent libllama dans leurs applications y gagnent le plus : ils savent enfin quand une mise à jour peut casser leur code.

Ce que cela change si vous apprenez à coder

Un numéro de version est un contrat entre les auteurs d'une bibliothèque et ses utilisateurs. Quand votre package.json contient ^1.4.2, npm peut installer la 1.5.0, mais jamais la 2.0.0, car un changement du premier chiffre peut casser votre code. Les versions 0.x n'offrent pas cette garantie. En passant à la 1.0, les auteurs de llama.cpp s'y engagent. On pratique les dépendances et le package.json dans notre formation JavaScript et TypeScript.

Pour voir un modèle local à l'œuvre, le README donne deux commandes : llama cli -hf ggml-org/Qwen3.5-0.8B-GGUF télécharge un petit modèle depuis Hugging Face et ouvre un chat dans le terminal, et llama serve lance un serveur avec une API compatible OpenAI. Du code écrit pour une API cloud se teste alors sans clé ni tokens à payer. Notre article sur Hugging Face explique d'où viennent les modèles, et Ollama permet de démarrer plus simplement.

Un petit modèle ne remplacera pas un assistant dans le cloud, mais suffit pour comprendre comment une application parle à un modèle. Travailler avec des assistants IA quand on code, c'est le sujet de notre formation programmation avec l'IA. Le FP8, les caches MoE et les backends GPU peuvent attendre.

En bref

  • Rust 1.100. La version du 12 novembre stabilise le type never ! et l'API des allocateurs, par exemple Vec::new_in. Cargo signale les dépendances inutilisées et peut ignorer les versions publiées trop récemment, par exemple depuis moins de 3 jours (global-min-publish-age). Source
  • Correctifs de sécurité Node.js. Les versions 22.23.5, 24.22.3 et 26.13.1, sorties le 11 novembre, corrigent 16 vulnérabilités, dont 7 de gravité élevée, surtout dans HTTP/2 et TLS. Mettez à jour vos serveurs Node.js dans leur branche LTS. Source
  • NestJS 12.5.0. La version du 12 novembre resserre les limites par défaut : WsAdapter accepte des messages jusqu'à 1 Mo (contre 100 Mo), et une requête multipart ne peut plus dépasser 1 000 parties. Un guard, un intercepteur ou un pipe impossible à exécuter bloque maintenant le démarrage : après la mise à jour d'un projet de notre formation NestJS, vérifiez qu'il démarre toujours. Source
  • AWS Emulator. Le 11 novembre, AWS a publié un émulateur local et gratuit de ses API, écrit en Rust, pour l'AWS CLI, les SDK et les agents de code. Des agents écrivent et maintiennent le code, et les politiques IAM ne sont pas évaluées comme sur AWS : l'outil ne convient pas aux tests de sécurité. Source
  • Apache HTTP Server 2.4.71. La version du 11 novembre corrige CVE-2026-119618, une faille critique dans mod_http2 qui peut mener à une exécution de code à distance. Les versions 2.4.55 à 2.4.70 sont concernées. Source
  • Project Zero raccourcit ses délais. L'équipe de Google publie désormais les failles 90 jours après leur signalement, corrigées ou non (annonce du 13 novembre). Le délai passera à 60 jours le 2 février 2027, puis à 30 le 3 janvier 2028. Source
  • Cloudflare ouvre le code de Kitesurf. Ce moteur de navigateur expérimental pour agents IA tourne sur Cloudflare Workers, parle le protocole Chrome DevTools (Puppeteer s'y connecte) et est sous licence Apache 2.0. Source

Questions fréquentes

Quelle différence entre llama.cpp et ggml ?

ggml fait les calculs sur tenseurs, du CPU à CUDA, Metal et Vulkan. llama.cpp utilise ggml et ajoute ce dont les modèles de langage ont besoin : le chargement des fichiers GGUF, la bibliothèque libllama, un chat en terminal et un serveur. Les deux viennent de ggml-org et suivent les mêmes règles de version depuis la 1.0.

Mon code va-t-il casser après la mise à jour vers llama.cpp 1.0 ?

Le code C ou C++ qui appelle des fonctions de llama.h peut demander des retouches, car la version supprime 35 fonctions obsolètes. Si vous utilisez le serveur en HTTP, regardez d'abord les nouvelles options de sécurité, désormais à activer explicitement. La liste complète est dans les notes de version sur GitHub.

Comment faire tourner un modèle en local avec llama.cpp ?

Installez llama.cpp depuis un paquet (Homebrew, winget, Docker) ou avec le script du README du projet. Ensuite, llama cli -hf avec le nom d'un dépôt Hugging Face télécharge le modèle et ouvre un chat, et llama serve lance un serveur compatible avec l'API OpenAI.

Sources


Article préparé avec l'aide de l'IA à partir de sources primaires et relu par la rédaction de CodeWorlds.