Une IA sur son poste de travail
Introduction
Depuis le début de ce livre, nous avons principalement parlé d’intelligence artificielle hébergée ailleurs que chez vous : ChatGPT tourne sur les serveurs d’OpenAI, Claude sur ceux d’Anthropic, Gemini sur ceux de Google. Vous tapez votre message, il file sur Internet, un centre de données quelque part le traite, et la réponse revient. C’est confortable et puissant ; pour l’immense majorité des usages du quotidien, c’est largement suffisant.
Il existe pourtant une autre voie, moins connue du grand public mais très prisée des développeurs, des entreprises soumises à des contraintes de confidentialité strictes ou simplement des curieux qui aiment comprendre ce qui tourne « sous le capot » : faire vivre un modèle de langage directement sur votre ordinateur, sans connexion internet, sans envoyer la moindre donnée à qui que ce soit.
C’est le sujet de ce chapitre. Nous allons voir pourquoi cette approche a le vent en poupe, quels modèles choisir selon votre machine et comment l’installer concrètement grâce à l’outil qui a démocratisé cette pratique : Ollama.
Pourquoi faire tourner une IA chez soi
Trois raisons reviennent souvent et elles sont toutes légitimes.
La première, c’est la confidentialité. Quand vous envoyez un texte à un service cloud, ce texte quitte votre machine. Pour un particulier qui demande une recette de cuisine, ce n’est pas un problème. Pour un service juridique qui analyse un contrat sensible, un service R&D qui manipule du code propriétaire ou un cabinet médical qui traite des données de patients, c’est une toute autre histoire. Un modèle local ne fait transiter aucune donnée hors de votre réseau : il n’y a personne à qui faire confiance, puisqu’il n’y a personne d’autre dans la boucle.
La seconde, c’est l’indépendance. Pas de connexion, pas de problème : un modèle local fonctionne dans un avion, sur un chantier isolé, ou tout simplement le jour où votre fournisseur d’accès subit une panne. Pas d’abonnement non plu : une fois le matériel amorti, l’usage est gratuit et illimité, sans facture qui grimpe avec le nombre de requêtes.
La troisième est plus subtile mais tout aussi réelle : la latence. Un modèle qui tourne sur votre propre machine répond sans le moindre aller-retour réseau, un avantage particulièrement perceptible...
Identifier le LLM pour votre machine
Contrairement à ChatGPT ou Claude, où vous n’avez jamais à vous soucier de la puissance de calcul nécessaire puisque le traitement s’effectue chez l’éditeur, faire tourner un modèle localement vous confronte directement à une question très concrète : quelle taille de modèle votre machine peut-elle raisonnablement supporter ?
Un modèle de langage local se caractérise avant tout par son nombre de paramètres, exprimé en milliards (B, pour « billion » en anglais). Plus ce nombre est élevé, plus le modèle est en théorie compétent, mais plus il consomme de mémoire et plus il est lent à faire tourner sur du matériel grand public.
Pour vous donner un repère concret, sans prétendre à l’exhaustivité puisque ce paysage évolue vite :
-
Petit modèle (3 à 4 milliards de paramètres) : il fonctionne sur un simple ordinateur portable avec 8 Go de mémoire vive. Il est rapide, léger et suffisant pour de la rédaction simple ou des tâches courtes.
-
Modèle moyen (7 à 14 milliards de paramètres) : c’est le point d’équilibre pour la plupart des usages personnels, avec 16 Go de mémoire vive. C’est le calibre que je recommande pour démarrer.
-
Grand modèle (30 à 70 milliards de paramètres...
Installer Ollama sur votre poste de travail
Bonne nouvelle pour commencer : l’installation s’est nettement simplifiée ces dernières années. Il n’est plus nécessaire de passer par un conteneur Docker ni par une configuration réseau particulière : Ollama s’installe aujourd’hui nativement sur Windows, macOS et Linux, comme n’importe quel logiciel.
1. Étape 1 - Vérifier votre configuration
Avant de vous lancer, voici un tour d’horizon rapide des ressources nécessaires 8 Go de mémoire vive minimum pour démarrer avec de petits modèles ; 16 Go recommandés pour un usage confortable.
La mémoire vive est le facteur le plus important à prendre en compte lorsque l’on souhaite installer une IA sur son poste de travail.
Retenez que, lorsque vous lancez un modèle d’IA avec Ollama, celui-ci est entièrement chargé en mémoire. Si votre ordinateur ne dispose pas de suffisamment de mémoire vive, le modèle ne pourra donc pas être chargé ou fonctionnera particulièrement lentement en recourant au disque dur (mémoire d’échange ou swap).
|
Mémoire RAM disponible |
Modèles utilisables |
Expérience |
|
4 Go |
Insuffisant |
Ollama refusera de lancer les modèles |
|
8 Go |
Modèles légers |
Fonctionnel mais limité |
|
16 Go |
Modèles moyens |
Bonne expérience pour la plupart des usages du quotidien |
|
32 Go |
Grands modèles |
Très bonne expérience |
|
64 Go et plus |
Très grands modèles |
Usage professionnel |
Mémoire et expérience de l’IA
Dernier élément important : une carte graphique dédiée (NVIDIA ou AMD) accélérera considérablement les réponses, mais ce n’est pas indispensable.
Comptez au minimum 5 Go d’espace de stockage pour un petit modèle et davantage pour les modèles plus imposants.
2. Étape 2 - Télécharger et installer Ollama
Rendez-vous sur le site officiel du projet : https://ollama.com/download
Le site détecte automatiquement votre système d’exploitation et vous propose l’installateur adapté.

Sur Windows comme sur macOS, il suffit d’exécuter le fichier téléchargé...
Conclusion
Nous avons présenté dans ce chapitre les raisons qui poussent de plus en plus de développeurs et d’entreprises à faire tourner une intelligence artificielle directement sur leur poste de travail : la confidentialité des données, l’indépendance vis-à-vis d’une connexion internet, l’absence de coûts récurrents et une latence réduite pour les usages les plus interactifs.
Nous avons vu comment Ollama a rendu cette pratique accessible en quelques commandes, sans expertise en apprentissage automatique, de l’installation au dialogue avec un modèle, du réglage de sa température à son intégration dans un environnement de développement, en passant par l’immense vivier de Hugging Face et de ses Spaces.
Retenez surtout ceci : le paysage des modèles locaux se renouvelle à une vitesse que ce livre ne pourra jamais suivre en temps réel. Le bon réflexe n’est donc pas de mémoriser les noms de modèles cités ici, mais de consulter régulièrement la bibliothèque Ollama et les classements communautaires pour identifier le modèle le plus adapté à votre usage du moment.
Si Ollama ne répond pas à l’ensemble de vos besoins, sachez que d’autres solutions existent dans cet écosystème...