Cloud ou local : quel LLM choisir pour votre entreprise ?

Depuis deux ans, on me pose presque toujours la même question dans les premières minutes d’un rendez-vous : « Est-ce qu’on doit passer par ChatGPT, ou est-ce qu’on peut installer une IA chez nous ? » C’est une bonne question, mais elle arrive souvent trop tôt et sous un angle trop technique. Dans cet article, je vais vous proposer une manière plus saine de trancher. Je travaille au quotidien avec les deux mondes : les API cloud comme Claude d’Anthropic, GPT d’OpenAI ou Mistral, et des modèles open-weight que j’installe en local via Ollama (Llama, Mistral quantifiés). Je n’ai donc pas de camp à défendre, et c’est précisément ce qui me permet de vous donner un avis nuancé.

La vraie question n’est pas technique, elle est métier

Avant de parler de GPU, de tokens ou de quantification, il faut répondre à une question beaucoup plus simple : qu’est-ce qui a le droit de sortir de votre entreprise ?

Un LLM en cloud, c’est un modèle qui tourne sur les serveurs d’un fournisseur. Chaque requête que vous lui envoyez quitte votre réseau. Un LLM en local, c’est un modèle qui tourne sur une machine que vous possédez : les données ne sortent jamais. Toute la décision cloud/local découle en réalité d’un arbitrage sur la donnée, pas d’une préférence technologique.

Je vous invite donc à faire un exercice concret avant tout le reste : listez vos cas d’usage, puis classez la donnée qu’ils manipulent en trois catégories. La donnée publique ou anodine (un article de blog à reformuler, une FAQ commerciale). La donnée interne mais peu sensible (un compte rendu de réunion, une note de process). Et la donnée sensible ou réglementée (dossiers clients nominatifs, données de santé, contrats confidentiels, informations RH, secrets industriels). Une fois ce tri fait, la moitié de vos décisions est déjà prise. Le reste — la performance, le coût — n’est qu’un affinage.

Cloud vs local : comparaison honnête sur 5 axes

Je vous propose de comparer les deux approches sur les cinq critères qui comptent vraiment en PME, sans idéaliser ni diaboliser l’un ou l’autre.

1. Qualité et performance

Sur ce point, soyons clairs : les meilleurs modèles cloud restent devant. Les modèles de pointe d’Anthropic ou d’OpenAI comptent des centaines de milliards de paramètres et excellent sur le raisonnement complexe, les tâches multi-étapes, le code, l’analyse de documents longs. Un modèle local que vous ferez tourner sur une machine d’entreprise se situe généralement dans la gamme 7 à 8 milliards de paramètres, parfois plus si votre matériel le permet. L’écart est réel.

Mais — et c’est le point que j’insiste toujours à faire comprendre — la qualité maximale n’est pas nécessaire pour la majorité des tâches. Un modèle 7B bien utilisé fait très correctement une classification, une extraction ou une reformulation. Vouloir le meilleur modèle du monde pour trier des e-mails, c’est comme louer un semi-remorque pour livrer une baguette.

2. Coût

Les deux modèles économiques n’ont pas la même forme. Le cloud fonctionne à l’usage : vous payez à la quantité de texte traité. Pour une PME, cela représente typiquement quelques dizaines à quelques centaines d’euros par mois selon le volume. C’est un coût variable, sans investissement initial, qui suit votre activité.

Le local, lui, demande un investissement matériel de départ : comptez, en ordre de grandeur, de 3 000 à 8 000 euros pour une machine équipée d’un GPU capable de faire tourner confortablement un modèle 7B-8B. Ensuite, le coût marginal par requête est quasi nul — vous ne payez que l’électricité et la maintenance. Le local devient donc intéressant financièrement sur les gros volumes récurrents, ou quand la confidentialité l’impose de toute façon.

3. Confidentialité et RGPD

C’est souvent le critère décisif. Avec le cloud, vos données transitent chez un tiers, fréquemment hors de l’Union européenne. Cela ne signifie pas que c’est interdit : les fournisseurs sérieux proposent des engagements contractuels, des options de non-réutilisation des données pour l’entraînement, parfois des hébergements européens. Mais cela suppose de lire les conditions, de signer les bons accords de traitement et d’informer les personnes concernées. Avec le local, la question ne se pose tout simplement pas : la donnée reste sur votre infrastructure. Pour des données de santé, des dossiers RH ou des informations couvertes par le secret professionnel, cette simplicité juridique a une vraie valeur.

4. Latence

Le cloud dépend de votre connexion internet et de la charge des serveurs distants. C’est généralement rapide, mais soumis aux aléas du réseau. Le local répond depuis votre propre machine : la latence est maîtrisée et fonctionne même hors ligne, ce qui peut compter dans un atelier, sur un site isolé ou lors d’une coupure. En revanche, un modèle local sur un matériel modeste peut être plus lent à générer de longues réponses qu’une grosse infrastructure cloud optimisée. Tout dépend de votre équipement.

5. Maintenance

Avec le cloud, vous n’avez rien à maintenir : le fournisseur met à jour les modèles, gère la disponibilité, la sécurité de l’infrastructure. Vous consommez un service. Avec le local, vous devenez responsable de la machine, des mises à jour du modèle, de la supervision. Ce n’est pas insurmontable — Ollama a énormément simplifié les choses — mais cela demande une compétence interne ou un prestataire. C’est un coût caché qu’il faut anticiper honnêtement.

Là où le cloud est imbattable

Je recommande sans hésiter le cloud dans plusieurs situations. D’abord, dès que vous avez besoin de raisonnement complexe : analyser un contrat de trente pages et en extraire les risques, produire une synthèse structurée à partir de sources multiples, générer du code de qualité, mener une conversation nuancée avec un client. Les grands modèles font ici une différence tangible.

Ensuite, quand vous cherchez la qualité maximale sur un livrable qui compte : une proposition commerciale importante, une communication institutionnelle, une traduction soignée. La différence de finition se voit.

Enfin, pour tout contenu non sensible. Rédiger des articles de blog, brainstormer des idées de campagne, reformuler une FAQ publique : ces données n’ont aucune raison de rester confinées. Le cloud vous offre alors le meilleur rapport qualité/effort, sans risque juridique et sans investissement.

Là où un modèle local 7B-8B suffit largement

À l’inverse, une grande partie du travail réel des entreprises est faite de tâches répétitives et bien cadrées, pour lesquelles un modèle local de taille modeste est parfaitement suffisant. Voici les cas où je le recommande volontiers :

• La classification d’e-mails : trier automatiquement les messages entrants (demande de devis, réclamation, facture, spam) et les router vers le bon service. C’est une tâche fermée qu’un 7B gère très bien.
• L’extraction de données depuis des PDF : récupérer les lignes d’une facture, les champs d’un formulaire, les coordonnées d’un bon de commande. Ces documents contiennent souvent des données clients — les garder en local évite toute question réglementaire.
• La reformulation et la correction : reprendre un brouillon interne, harmoniser un ton, corriger une note. Pas besoin d’un modèle de pointe pour cela.
• Le premier niveau de support : répondre aux questions récurrentes à partir de votre base de connaissances interne, et n’escalader vers un humain que les cas complexes.

Dans tous ces exemples, le volume est élevé, la tâche est prévisible, et la donnée est souvent interne. C’est le terrain idéal du local : coût marginal nul, confidentialité native, latence maîtrisée.

L’approche que je recommande : l’hybride

Dans la pratique, je conseille rarement de choisir un camp de façon exclusive. La configuration la plus saine pour une PME est hybride : le local pour ce qui doit rester à l’intérieur, le cloud pour ce qui peut sortir.

Concrètement, imaginez un cabinet qui reçoit des documents clients. Une première étape locale lit les PDF, extrait et anonymise les informations sensibles : rien n’est sorti. Puis, si une analyse plus poussée est nécessaire sur un contenu désormais neutralisé, une requête part vers un modèle cloud pour bénéficier de sa puissance de raisonnement. Vous obtenez le meilleur des deux mondes : la protection de la donnée là où elle compte, la qualité là où elle apporte de la valeur.

Cette architecture demande un peu de conception au départ, mais elle vous évite le faux dilemme du tout-cloud ou du tout-local. Elle vous permet aussi de faire évoluer le curseur dans le temps, sans repartir de zéro.

Les modèles européens comme compromis

Entre les deux extrêmes, il existe une voie médiane que je trouve pertinente pour beaucoup de PME françaises : les modèles européens, au premier rang desquels Mistral. Leur intérêt est double. D’une part, Mistral propose une API cloud performante avec un hébergement et un cadre juridique européens, ce qui simplifie la conformité RGPD par rapport à un fournisseur américain. D’autre part, ce sont aussi des modèles open-weight que vous pouvez installer en local si vous le souhaitez. Vous avez donc une continuité entre le cloud et le local avec le même fournisseur, et un ancrage réglementaire plus rassurant. Pour un dirigeant sensible à la souveraineté des données, c’est un compromis sérieux qui mérite d’être étudié.

Qui doit trancher dans l’entreprise ?

Je termine par un point souvent négligé : cette décision ne doit pas être prise par une seule personne. Trois rôles doivent être autour de la table. Le métier exprime le besoin réel : quelle tâche, quel volume, quel niveau de qualité attendu. La DSI (ou votre prestataire technique) évalue la faisabilité, le matériel, la maintenance et l’intégration à l’existant. Le DPO ou le responsable conformité qualifie la sensibilité des données et les obligations réglementaires. Sans le métier, vous construisez un outil que personne n’utilise. Sans la DSI, vous sous-estimez la maintenance. Sans le regard conformité, vous prenez un risque juridique. La bonne décision naît de la conversation entre ces trois points de vue.

En résumé

Le choix entre cloud et local n’est pas une question de mode ni de performance brute. C’est d’abord une question métier : quelle donnée peut sortir, et laquelle doit rester. Le cloud excelle sur le raisonnement complexe, la qualité maximale et les contenus non sensibles, pour quelques dizaines à quelques centaines d’euros par mois. Un modèle local 7B-8B suffit largement pour la classification, l’extraction, la reformulation et le support de premier niveau, moyennant un investissement matériel initial de 3 000 à 8 000 euros puis un coût quasi nul. Et dans la plupart des cas, la meilleure réponse n’est pas « l’un ou l’autre » mais une architecture hybride, éventuellement adossée à un modèle européen pour la sérénité réglementaire. Commencez par cartographier vos données et vos cas d’usage : le reste devient beaucoup plus simple à décider. Si vous voulez un regard extérieur sur cet arbitrage, c’est exactement le genre de sujet que j’aborde en intégration d’intelligence artificielle — prenons trente minutes pour en parler.