Le retour de l'on-premise : ce que les années data warehouse m'ont appris sur l'IA locale

Les dirigeants de PME me demandent de plus en plus s’ils devraient faire tourner l’IA sur leurs propres machines au lieu d’envoyer le tout à ChatGPT, Copilot ou Gemini. Je comprends leur question, et je la reconnais, parce que j’ai passé les années 2000 à 2002 de l’autre côté.

À l’époque, je déployais SAP BusinessObjects et des data warehouses pour des clients grands comptes et je formais leurs équipes, avec des missions pour la Commission européenne et un travail récurrent en France et au Royaume-Uni. Tout ce que nous touchions tournait dans les bâtiments du client. Il n’y avait pas de cloud où l’envoyer, donc le débat sur l’endroit où doivent vivre les données n’existait pas encore. Vous achetiez des serveurs, une licence de base de données, une couche ETL et l’outil de reporting, puis vous recrutiez ou formiez les personnes capables de faire tourner tout cela. Beaucoup de ces projets se terminaient par un entrepôt bien construit que presque personne n’ouvrait, généralement parce que les rapports ne correspondaient pas à la façon dont les gens travaillaient réellement, et ils retournaient à leurs tableurs.

Les entreprises qui réussissaient finissaient par posséder quelque chose dont la valeur mettait des années à apparaître : une version maîtrisée de leurs propres données, où elles savaient qui pouvait voir quoi et ce que cela coûtait d’exploiter. Quand le logiciel en tant que service est arrivé une décennie plus tard et a supprimé les serveurs, les mises à niveau et les négociations de licences, la plupart des petites entreprises ont eu raison d’accepter l’offre, et pour l’essentiel de leur logiciel, c’est toujours vrai. Ce qui s’est perdu en route, c’est l’habitude de demander où vont les données une fois qu’on appuie sur envoyer.

J’ai aussi observé, de l’intérieur, ce qui arrive aux fournisseurs. J’ai traversé deux acquisitions et l’éclatement de la bulle internet, et la fonction BI dans laquelle je travaillais a été absorbée puis a fini par disparaître. Les conditions qu’un prestataire vous propose aujourd’hui sont celles qui conviennent à son activité aujourd’hui, et je ne les ai pas vues tenir une décennie entière.

Donc, avec la même question de retour en 2026, je regarde ce qui a réellement changé.

Les modèles à poids ouverts des familles Llama, Mistral, Qwen et Gemma sont désormais assez bons pour classer des documents, extraire des champs de factures, résumer des notes internes ou répondre à des questions sur un dossier de fichiers d’entreprise, et ils tournent sur un poste de travail avec un GPU correct. Il y a deux ans, ce n’était pas réaliste pour une entreprise de trente personnes.

Les données ont changé aussi. Les gens collent des contrats, des dossiers RH, des fichiers clients et du code source dans des fenêtres de chat, ce qui est bien plus sensible que tout ce qu’ils ont jamais tapé dans un CRM. Samsung a restreint les outils d’IA générative en 2023 après que des ingénieurs ont collé du code source confidentiel dans ChatGPT, et Samsung a une équipe de sécurité pour remarquer ce genre de chose. La plupart des PME l’apprendraient bien plus tard, si jamais elles l’apprennent.

La réglementation a bougé aussi. Le RGPD était déjà là. L’EU AI Act ajoute des obligations par étapes, et l’une d’elles, un devoir de maîtrise de l’IA pour les entreprises qui déploient de l’IA, s’applique depuis février 2025. Le CLOUD Act américain, qui permet aux autorités américaines d’exiger de fournisseurs américains qu’ils remettent des données qu’ils détiennent même stockées en Europe, est passé du statut de note de bas de page juridique à celui de sujet que les clients abordent dès le premier rendez-vous.

La liste des choses qui coulent les projets internes est exactement la même qu’avant. La maintenance est le vrai coût, et elle n’apparaît jamais sur le devis matériel. L’installation dépend souvent d’une personne enthousiaste, et le jour où elle part, cela devient un système que personne n’ose toucher. Les gens contournent les outils qui ne collent pas à leur travail ; avec la BI, ils sont retournés à Excel, avec l’IA, ils retourneront au chatbot gratuit de leur téléphone, ce qui vous laisse dans une situation pire qu’avant. Et « c’est sur notre propre serveur » est traité comme une politique de sécurité, alors qu’une machine interne mal configurée peut être bien plus facile à compromettre que le centre de données d’un hyperscaler.

Ce qui est vraiment mieux qu’en 2000, c’est qu’il n’y a plus à choisir entre tout ou rien. Un entrepôt, c’était on-premise, point final. Aujourd’hui, vous pouvez faire tourner un petit modèle local pour les tâches sensibles et répétitives, envoyer le travail de raisonnement lourd sur des données peu sensibles à un modèle cloud, et utiliser un service hébergé dans l’UE pour ce qui se situe entre les deux.

C’est pourquoi je ne traite pas l’IA locale comme une position à défendre. C’est une décision de déploiement, et je la prendrais sur deux critères : la sensibilité des données, et le caractère étroit et fréquent de la tâche. Classer des fichiers clients, transcrire des réunions internes ou chercher dans des documents RH pointe généralement vers le local. Rédiger des textes marketing ou faire de la recherche sur de l’information publique pointe vers un bon modèle cloud, qui battra tout ce que vous pouvez faire tourner à l’arrière-boutique. Le reste s’inscrit pour l’essentiel dans une offre entreprise ou hébergée dans l’UE, avec des conditions claires d’absence d’entraînement.

Avant de discuter de l’endroit où tourne un cas d’usage, vérifiez qu’il mérite de tourner du tout, ce à quoi sert Screen It, la première partie de mon Playbook ROI IA. Le volet politique — qui peut utiliser quel outil avec quelles données — se trouve dans la série sur la gouvernance et la conformité. Les deux prochains articles couvrent la cartographie des données et le coût réel de faire tourner l’IA soi-même.

La question que je poserais à tout dirigeant qui envisage une installation locale est celle que les années BI m’ont appris à poser d’abord : qui s’en occupera encore dans trois ans ?