XDA-Developers l’a bien exprimé cette année : « Gemma 4 E4B est suffisamment petit pour fonctionner n’importe où, mais suffisamment puissant pour gérer les charges de travail LLM typiques. » Une seule phrase explique pourquoi le niveau paramètre 3-5B connaît son moment. Gemma 4 E4B, Phi-4, Qwen 3 4B et Llama 3.2 3B offrent désormais des réponses qui semblaient hors de portée il y a un an, sur un portable qui coûte moins cher qu’un téléphone.
Le piège réside dans le choix de la bonne application hôte. Certaines sont des installations d’une ligne. Certaines livrent une fenêtre de chat que vos parents pourraient utiliser. Certains exposent un serveur compatible avec OpenAI pour que votre code existant continue de fonctionner. Nous avons passé une semaine à exécuter les mêmes quatre minuscules modèles sur les huit applications desktop les plus populaires, sur un M1 Air 8 Go et une machine Windows 16 Go, puis les avons classées par la rapidité avec laquelle un novice pourrait obtenir une réponse fonctionnelle. Ce sont les meilleures applications pour les minuscules modèles locaux en 2026.
Ce qu’il faut rechercher
Les applications ci-dessous exécutent toutes des quantifications GGUF (Q4_K_M, Q5, Q8), qui est le format permettant aux modèles 3-5B de tenir confortablement dans la RAM 4-6 Go. Au-delà de cela, les différences se résument à une courte liste de choses pratiques.
Nous avons pesé six critères : espace libre de RAM sur les machines 8 Go, couverture de quantification (Q4 à Q8 plus variantes imatrix), si l’application est livrée avec un catalogue de modèles intégré ou si vous devez chercher des GGUF, finition de l’interface de chat par rapport à l’accès API, si les mises à jour et téléchargements fonctionnent entièrement hors ligne une fois installés, et la cohérence de l’expérience sur Windows, macOS et Linux. La vitesse compte, mais sur les minuscules modèles, chaque application ici atteint la vitesse de lecture sur le matériel moderne, nous avons donc traité les jetons par seconde comme un bris d’égalité plutôt qu’une porte d’entrée.
Comparaison
| Application | Interface de Chat | Catalogue de Modèles | Serveur Local | Installation Hors Ligne | Idéal pour |
|---|---|---|---|---|---|
| Ollama | Terminal uniquement | Oui | Oui (11434) | Oui | Chemin le plus rapide vers un modèle en cours d’exécution |
| LM Studio | GUI Complète | Oui (HF) | Oui (Compatible OpenAI) | Oui | Application tout-en-un polie |
| Jan | GUI Complète | Oui | Oui | Oui | Alternative LM Studio open-source |
| GPT4All | GUI Complète | Oui | Optionnel | Oui | Matériel modeste, intégration la plus facile |
| Msty | GUI Complète | Via Ollama | Via Ollama | Oui | Ollama avec une meilleure interface |
| Cortex.cpp | CLI | Oui | Oui | Oui | Alternative Ollama scriptable |
| llama.cpp | CLI | Non | Oui (llama-server) | Oui | Contrôle maximal |
| Open WebUI + Ollama | Interface Web | Via Ollama | Oui | Oui | Chat d’équipe autohébergé |
1. Ollama
Ollama est par où la plupart des gens devraient commencer. Installez-le, exécutez ollama run gemma3:4b dans un terminal, et vous avez une boucle de chat fonctionnelle en moins d’une minute. Les téléchargements de modèles reprennent, les quantifications sont choisies pour vous, et le serveur REST intégré sur le port 11434 signifie que tout ce qui parle l’API Ollama ou OpenAI peut se connecter sans configuration.
Le compromis est l’interface. Out of the box, Ollama est un terminal. C’est correct si vous prévoyez de l’associer à Open WebUI ou Msty, et honnêtement correct en soi une fois que vous vous y êtes habitué, mais les utilisateurs non-techniques abandonnent rapidement la fenêtre noire. L’empreinte mémoire sur les minuscules modèles est excellente. Gemma 3 4B Q4 occupe environ 3,4 Go de RAM dans nos tests, laissant de la place pour un navigateur sur une machine 8 Go.
Télécharger : Site · GitHub · Homebrew
2. LM Studio
LM Studio est l’application tout-en-un la plus polie de cette liste. Un catalogue Hugging Face consultable, des choix de téléchargement par quantification avec des avertissements RAM, une fenêtre de chat supportant les pièces jointes et les invites système, et un serveur local compatible OpenAI, tous vivent dans un seul installateur. L’assistant d’intégration choisit une valeur par défaut sensée pour votre matériel, ce qui compte beaucoup lorsque l’étagère des modèles contient quarante variantes des mêmes poids.
C’est gratuit mais propriétaire, ce qui importe à certains lecteurs et à d’autres non. Les versions Windows et Mac sont également fortes. La version Linux fonctionne mais accuse un retard d’une ou deux versions. Pour un premier modèle local sur un portable familial, c’est l’application que nous donnons à quelqu’un qui n’a jamais ouvert un terminal.
Télécharger : Site · Windows · macOS · Linux
3. Jan
Jan est la réponse open-source à LM Studio, et l’écart s’est considérablement réduit au cours de la dernière année. L’interface de chat est propre, la découverte de modèles couvre le catalogue Hugging Face plus l’ensemble curé personnel de Jan, et tout fonctionne hors ligne une fois que les poids sont sur le disque. L’équipe derrière Jan maintient également Cortex.cpp (ci-dessous), le runtime sous-jacent leur appartient donc, ce n’est pas un wrapper.
Nous avons remarqué que Jan gère les changements de modèle plus élégamment que LM Studio. Charger Phi-4 sur Gemma 3 4B a pris deux clics et pas de redémarrage. Le système d’extensions vous permet de changer de moteur de chat, d’ajouter RAG ou de router vers un modèle distant lorsque vous avez besoin de quelque chose de plus grand. Sur Linux, c’est notre premier choix.
4. GPT4All
GPT4All de Nomic AI vise directement le portable 8 Go qui n’a jamais exécuté un modèle local. L’installateur est petit, la liste des modèles est curée plutôt qu’exhaustive, et chaque entrée est accompagnée d’une note matérielle en anglais simple (« S’exécute rapidement sur la plupart des ordinateurs », « Nécessite 16 Go de RAM »). Pour quiconque se pose la question « cela fonctionnera-t-il sur ma machine ? », GPT4All y répond honnêtement avant le début du téléchargement.
Le chat avec des documents locaux est intégré, ce qui est rare à ce niveau et utile pour une première démonstration RAG. Le compromis est que la sélection de modèles est plus petite que LM Studio ou Jan, et les poids de pointe mettent parfois une semaine à apparaître. Si votre objectif est de faire utiliser un modèle local à un membre de la famille ce soir, c’est le chemin le plus court.
5. Msty
Msty est une application de chat qui repose sur Ollama et lui donne l’interface qu’Ollama refuse de construire. Chats à vue divisée, bibliothèques d’invites, espaces de travail et une pile de connaissances pour les fichiers locaux fonctionnent tous de manière standard. Le niveau gratuit couvre l’essentiel, et Msty Pro ajoute des fonctionnalités de synchronisation et d’équipe que la plupart des utilisateurs individuels peuvent sauter.
Si vous avez déjà Ollama installé, Msty se connecte au premier lancement et vous chattez en quelques secondes. Les modèles Ollama que vous avez extraits du terminal apparaissent automatiquement dans la barre latérale. Cette combinaison (Ollama pour le runtime, Msty pour le chat) est ce que nous avons fini par utiliser au quotidien après la semaine de test.
Télécharger : Site · Windows · macOS · Linux
6. Cortex.cpp
Cortex.cpp provient de l’équipe Jan et se comporte comme une Ollama scriptable. Vous obtenez une CLI, un serveur compatible OpenAI et un registre de modèles, mais pas votre propre interface de chat. Cela semble être un inconvénient jusqu’à ce que vous commenciez à construire dessus, auquel point la surface plus petite et la licence Apache-2.0 deviennent la raison de la choisir.
Les téléchargements de modèles utilisent la syntaxe familière cortex pull gemma3:4b, et le serveur expose les mêmes points de terminaison que votre client OpenAI déjà parlé. Sur les minuscules modèles, cela correspond à Ollama en vitesse et le surpasse en mémoire au démarrage à froid. Les développeurs souhaitant un runtime propre sous une interface personnalisée devraient regarder ici d’abord.
7. llama.cpp
llama.cpp est le runtime sur lequel presque toutes les applications de cette liste sont construites. L’utiliser directement signifie compiler (ou télécharger un binaire de version), exécuter llama-cli ou llama-server depuis un terminal, et configurer chaque paramètre vous-même. C’est plus de travail que les autres options, et c’est aussi où tous les nouveaux formats de quantification, échantillonneurs et backends matériels atterrissent en premier.
Pour la plupart des lecteurs, le résultat est que llama.cpp vit déjà sous leur application préférée. Pour les utilisateurs avancés, l’exécuter directement déverrouille Metal, CUDA, ROCm, Vulkan et des builds CPU uniquement avec des drapeaux correspondants, plus des quantifications imatrix qui rasent 10-15% d’usage de mémoire en plus. Si vous voulez savoir ce que votre matériel peut vraiment faire avec Gemma 4 E4B, c’est l’outil.
Télécharger : GitHub · Homebrew · Releases
8. Open WebUI + Ollama
Open WebUI associé à Ollama est la configuration que nous recommandons pour une petite équipe ou un laboratoire domestique. Ollama exécute les modèles, Open WebUI exécute une interface autohébergée de style ChatGPT avec des comptes, routage de modèles, partage d’invites et plug-ins de recherche Web. Docker Compose apporte la paire en environ dix minutes sur n’importe quelle machine exécutant Docker.
Une fois qu’il est actif, les utilisateurs se connectent depuis n’importe quel navigateur du réseau. Il n’y a aucun client à installer de leur côté, les mises à jour se font en un seul endroit, et toute la pile reste dans vos murs. Pour une famille qui souhaite « un ChatGPT privé qui fonctionne sur le mini PC de bureau », c’est la réponse.
Télécharger : Site · GitHub · Docker Hub
Comment choisir
Quatre itinéraires couvrent presque tout le monde. Si vous voulez le chemin le plus rapide de zéro à un modèle en cours d’exécution, installez Ollama, puis ajoutez Msty quand vous voulez une fenêtre de chat. Cette combinaison prend dix minutes et couvre 80% de ce dont un utilisateur individuel a besoin.
Si le polish importe plus que la pureté open-source, installez LM Studio et ignorez entièrement le terminal. L’assistant d’intégration choisit une quantification qui correspond à votre RAM, le catalogue couvre chaque modèle qui vaut la peine d’exécuter à 3-5B, et le serveur local signifie que vous pouvez le connecter ultérieurement à VS Code, Raycast ou à vos propres scripts. GPT4All est le choix lorsque la machine est véritablement modeste (8 Go de RAM, pas de GPU) et que l’utilisateur n’a jamais touché un modèle local auparavant.
Les développeurs qui souhaitent un point de terminaison compatible OpenAI sans interface graphique sur le chemin doivent regarder Cortex.cpp ou le serveur intégré de llama.cpp. Les deux vous offrent un contrôle de processus propre, des journaux simples et un scripting facile.
Pour une petite équipe ou une famille qui souhaite un accès partagé à un assistant privé, Open WebUI en haut d’Ollama, déployé via Docker, est la réponse. Une installation, accès navigateur pour tous, et aucune donnée ne quitte la maison.
FAQ
Quel est le plus petit LLM local que je peux exécuter ? Sur une machine disposant de 4 Go de RAM libre, un modèle 1-2B à Q4_K_M fonctionne confortablement. Gemma 3 1B et Llama 3.2 1B fonctionnent tous deux bien pour les résumés et les questions-réponses simples. Pour un assistant vraiment utile, visez un modèle 3-4B à Q4 ou Q5, qui nécessite environ 4-6 Go de RAM.
Ai-je besoin d’un GPU pour Gemma 4 E4B ? Non. Gemma 4 E4B à Q4 fonctionne sur des ordinateurs portables CPU uniquement à la vitesse de lecture (environ 8-15 jetons par seconde sur Apple Silicon moderne, 4-10 sur un portable Intel ou AMD grand public). Un GPU accélère les choses considérablement, en particulier sur Windows et Linux avec CUDA ou Vulkan, mais ce n’est pas nécessaire.
Ollama est-il gratuit ? Oui. Ollama est open-source sous licence MIT et gratuit pour une utilisation dans les projets personnels et commerciaux. Les poids du modèle ont leurs propres licences (Gemma, Llama, Phi et Qwen ont chacun leurs propres conditions), et la plupart sont suffisamment permissifs pour un usage personnel et professionnel interne.
Quelle est l’application LLM locale la plus rapide pour Mac ? Pour le débit brut sur Apple Silicon, llama.cpp avec Metal activé est le plus rapide, suivi d’Ollama (qui utilise llama.cpp sous le capot avec des valeurs par défaut sensées). Pour le temps le plus rapide jusqu’à la première réponse à partir d’une installation à froid, Ollama ou LM Studio gagnent. Sur un M1 Air, Gemma 3 4B Q4 s’exécute à environ 25-30 jetons par seconde dans Ollama.
Quelle est la meilleure configuration LLM locale pour 8 Go de RAM ? Installez Ollama et tirez un modèle 3-4B à Q4_K_M (Gemma 3 4B ou Llama 3.2 3B sont nos choix). Cela laisse suffisamment de place pour un navigateur et un client de chat. Ajoutez Msty ou Open WebUI pour une fenêtre de chat appropriée. Si vous voulez une seule application qui fait tout, GPT4All est plus convivial à ce niveau de RAM.
Quelle application supporte le plus de formats de quantification ? LM Studio et Jan exposent la gamme la plus large de quantifications GGUF dans leurs catalogues (Q2 à Q8, plus variantes imatrix). llama.cpp prend en charge chaque quantification définie par le format, car c’est là que les nouveaux formats atterrissent en premier. Ollama choisit une quantification unique par étiquette de modèle par défaut, ce qui est plus simple mais moins flexible.
