Open Weights & modèles locaux

Résilience

Un fournisseur central peut, à tout moment, restreindre, suspendre ou dégrader l'accès à un modèle frontier, pour des raisons réglementaires, commerciales, ou opérationnelles. Une pratique open-weight est une assurance : le code continue de tourner.

Gouvernance libre

Poids ouverts + audit public = transparence vérifiable. La sécurité d'un modèle ne se démontre pas par sa fermeture, elle se démontre par la possibilité qu'a la communauté de l'inspecter. La meilleure gouvernance est celle qui est libre et partagée.

Souveraineté du code

Pour un client français ou EU, faire tourner l'IA sur sa propre infrastructure (ou hors des juridictions du fournisseur historique) devient une exigence, pas un caprice. L'open-weight est le seul chemin qui rend cette exigence tenable techniquement.

Alternatives frontier

GLM 5.3 (Z.ai), Kimi K3 (Moonshot), DeepSeek V4. Sans ces modèles, le marché frontier serait un monopole. Notre pratique intègre ces alternatives dans la boîte à outils réelle, pas seulement dans un discours.

Ornith-1.5-35B-A3B-Q8_0 + vision

Notre 35B local quotidien sur Loom. Experts en RAM, attention en VRAM, 14,2 t/s de décode mesurés, contexte 65 536 tokens, chargé en ~15 s depuis le NVMe. C'est le modèle de nos deux PR llama.cpp.

Qwen3.6-35B-A3B (abliterated) Q4_K_M + vision

L'alternative à Ornith dans la même classe, en Q4 (20 Go) avec encodeur vision. Même recette d'offload, contexte 32 768 tokens.

gemma-4-12b-it Q4_K_M + vision

Le dense de Google en 12B, 6,8 Go, avec vision. Tient en RAM d'un portable ordinaire : le candidat pour un poste sans GPU.

Ternary-Bonsai-2 (Prism ML) Q2_0 + vision

Modèles ternaires : 1,2 Go pour le 4B, 2,4 Go pour le 9B. Mis au banc le 18 octobre 2026 face à Ornith. Le 4B sert de raffineur de prompts pour nos pipelines image.

GLM 5.2 et GLM 5.3 FlashX (Z.ai)

Notre distant par défaut : GLM 5.2, 1M de contexte, API OpenAI-compatible, remises de cache 94-98 % mesurées. GLM 5.3 FlashX câblé à côté dans le store. L'alternative frontier au tarif réel.

GLM 4.7 Flash (Z.ai), MoE 30B-A3B

Palier gratuit utilisé pour les sous-agents (dispatch_agent) : premier essai gratuit, repli vers GLM 5.2. Optimise le coût des tâches courtes.

DeepSeek V4 Flash

Frontier distant de comparaison, câblé dans le store. Sert à étalonner les réponses des modèles locaux sur nos évals.

Kimi K3 (Moonshot AI)

Modèle exploré pour l'ingestion de gros corpus documentaires. Câblé côté remote dans notre store de modèles.