Ollama

La promesse tient en une ligne : ollama pull récupère les poids et ollama run ouvre le chat. Ollama gère la quantification, la répartition de la mémoire et le serveur en coulisses, vous évitant la valse habituelle des versions de CUDA et des environnements Python. Les modèles viennent d'une bibliothèque intégrée qui couvre Gemma, Qwen, gpt-oss, DeepSeek, Kimi, MiniMax, GLM, Mistral et Nemotron.

Tous les modèles ne tiennent pas dans un portable, alors Ollama a ajouté une offre cloud qui exécute de grands modèles ouverts sur le matériel des fournisseurs NVIDIA Cloud. Vous payez au million de tokens, avec des tarifs heures creuses qui réduisent le prix de moitié en dehors des heures ouvrées. Les comptes gratuits reçoivent des crédits de départ et les offres payantes incluent une allocation mensuelle.

Chaque modèle local expose un serveur HTTP sur le port 11434, donc n'importe quel langage peut lui parler. Ollama comprend aussi les formats OpenAI Chat Completions et Responses ainsi que le format Anthropic Messages, ce qui veut dire que les outils conçus pour ces API fonctionnent en changeant l'URL de base, presque toujours sans toucher au code.

Sur les Mac, Ollama exécute les modèles compatibles via le framework MLX d'Apple plutôt qu'un environnement traduit. Ce changement a apporté de gros gains de vitesse en 2026, dont la prédiction de plusieurs tokens qu'Ollama mesure comme jusqu'à 90 % plus rapide sur les agents de code. La mémoire consommée a aussi baissé, ce qui compte sur les Mac à mémoire unifiée, où la RAM est la vraie limite.

ollama launch claude, ollama launch codex et des commandes similaires relient les agents de code à vos modèles. Côté bureau, Claude et ChatGPT (Desktop) peuvent pointer vers Ollama, ce qui ouvre des modèles comme Muse Glimmer et Nemotron dans des outils que vous utilisez déjà.

Un Modelfile est une recette courte qui définit un modèle maison : poids de base, prompt système, paramètres et gabarit. Vous le construisez avec ollama create et la définition voyage avec le modèle, si bien que les consignes partagées restent identiques pour toute une équipe au lieu de vivre dans des notes dispersées.

Ollama exécute des modèles d'embeddings comme EmbeddingGemma et renvoie des vecteurs pour la recherche ou le regroupement. Le paramètre format accepte un schéma JSON pour que le modèle réponde par un objet typé, transformant le texte libre en données qu'un programme lit sans deviner la forme.

Les versions récentes ajoutent des modèles de décision qui renvoient des choix, des scores et des probabilités plutôt que de la prose. Fondés sur l'API Jev de TypeSafe, ils servent au tri de tickets ou à la classification de contenu, et Ollama les exécute sur un point d'accès dédié, à côté des modèles de chat habituels.