Une baie de serveurs derrière une porte vitrée fermée par un cadenas, avec des voyants bleus à l’intérieur

Une IA sur vos propres serveurs : LLM local et RGPD

Les entreprises veulent utiliser l’IA, mais l’équipe sécurité dit non : contrats, échanges avec les clients, dossiers RH et chiffres internes ne doivent pas partir vers des services externes. D’où une demande que nous entendons souvent : peut-on faire tourner un modèle d’IA en interne, pour que les données ne quittent jamais l’entreprise ?

Oui. Un LLM local pour l’entreprise est un modèle de langage qui fonctionne sur vos propres serveurs ou dans un environnement dédié, et non chez un fournisseur externe. Voyons quand il est vraiment nécessaire, ce qu’il faut savoir côté RGPD, de quoi se compose une telle solution et comment la lancer sans dépenses inutiles.

Qu’est-ce qu’un LLM local et en quoi diffère-t-il d’un modèle cloud

Un modèle d’IA dans le cloud est un service fourni par un éditeur. Vous envoyez une requête via internet, le modèle la traite sur les serveurs de quelqu’un d’autre et renvoie une réponse. C’est rapide et pratique, mais le texte de la requête, avec des extraits de vos documents, se retrouve chez le fournisseur.

Un modèle local fonctionne autrement. Vous prenez un modèle de langage open source, vous le déployez sur votre propre serveur ou dans un segment de cloud isolé, et vous le connectez à vos systèmes. Les requêtes sont traitées au sein de l’entreprise, et les données ne quittent jamais votre périmètre.

C’est une IA privée au sens littéral : vous décidez où sont stockées les requêtes, qui peut consulter les journaux et combien de temps ils sont conservés.

Modèle cloudModèle local
Lieu de traitement des donnéesChez le fournisseurSur vos serveurs ou dans un environnement dédié
DémarrageRapide, un accès API suffitServeur, déploiement et paramétrage nécessaires
Qualité sur les tâches complexesGénéralement supérieureDépend du modèle et de la tâche, à tester sur des exemples
Maîtrise des données et des journauxEncadrée par le contrat du fournisseurTotale, tout comme votre responsabilité
MaintenanceAssurée par le fournisseurVotre équipe informatique ou un prestataire

Quand une entreprise a besoin de son propre modèle d’IA

Un LLM privé et auto-hébergé ne se justifie pas toujours. S’il s’agit de rédiger des posts pour les réseaux sociaux ou de traduire des contenus publics, un service cloud suffit généralement. Votre propre modèle devient nécessaire quand les requêtes contiennent des informations qui ne doivent pas sortir.

Usages typiques d’un LLM local : répondre aux questions des collaborateurs à partir des documents internes, trier les e-mails et les demandes entrantes, extraire des données des contrats et des factures, préparer des brouillons de réponses aux clients, rechercher dans les archives.

RGPD et IA : ce qu’il faut comprendre

Une précision d’abord : ceci n’est pas un conseil juridique. Nous sommes développeurs, et sur chaque projet nous validons le schéma de traitement des données avec le juriste, le DPO et l’équipe sécurité du client. Quelques principes bien connus méritent toutefois d’être en tête avant de démarrer. La CNIL publie d’ailleurs des recommandations dédiées aux systèmes d’IA, utiles à consulter.

Le RGPD encadre toute opération sur des données personnelles : collecte, conservation, utilisation, communication. Si une requête adressée à un modèle d’IA contient un nom, un numéro de téléphone ou un numéro d’identification, c’est aussi un traitement de données personnelles, et les exigences du règlement s’appliquent.

Un modèle local règle une partie de ces questions : les données ne partent pas chez un fournisseur et ne traversent pas les frontières. Mais il ne vous dispense pas du reste.

Un modèle local règle la question de la destination des données, pas celle de qui les traite et pourquoi.

Où héberger le modèle : votre serveur, un cloud européen ou un modèle hybride

« Local » ne veut pas forcément dire « dans la salle serveur du bureau ». Plusieurs options existent, et le choix dépend des exigences de sécurité, de la charge et de l’existence d’une infrastructure en interne.

Nous conseillons en général de commencer avec des capacités louées : on voit alors quel modèle et quelle puissance de calcul votre charge exige réellement. Acheter du matériel avant cela revient à parier à l’aveugle.

Comment choisir le modèle

Les modèles de langage open source sont nombreux, et de nouveaux sortent en permanence. Nous ne désignons donc pas « le meilleur » : le meilleur modèle est celui qui traite vos tâches sur votre matériel. Il se choisit selon quelques critères.

Le test est simple dans son principe : nous constituons un jeu d’exemples réels avec les bonnes réponses et le soumettons à plusieurs modèles, par exemple des variantes de Llama ou de Mistral. Nous comparons la précision, la vitesse et la régularité. La décision repose sur des mesures faites sur vos données, pas sur les benchmarks des autres.

Ce qu’il faut pour déployer un LLM sur son propre serveur

Le modèle n’est qu’une partie de la solution. Pour que les collaborateurs et les systèmes de l’entreprise puissent s’en servir, on construit autour de lui un service web classique, avec toutes les exigences habituelles.

Au fond, il s’agit de développer un service web avec un modèle à l’intérieur. C’est pourquoi nous menons ces projets comme n’importe quel autre service : analyse des processus, architecture, intégrations et maintenance après le lancement.

Comment se déroule la mise en place

  1. Choix de la tâche. Une tâche claire au résultat mesurable : répondre aux questions sur les procédures internes, trier les demandes, extraire des données de documents.
  2. Revue des données avec le juridique et la sécurité. Quelles données atteindront le modèle, sur quelle base légale elles sont traitées, qui y aura accès, combien de temps les journaux sont conservés.
  3. Choix de l’hébergement et des modèles candidats. Serveur loué ou en propre, deux ou trois modèles à comparer.
  4. Jeu de référence et comparaison. Des exemples réels avec les bonnes réponses, des mesures de qualité et de vitesse.
  5. Pilote. Un service avec ses intégrations et ses droits d’accès pour un petit groupe de collaborateurs, et la collecte de leurs retours.
  6. Déploiement et exploitation. Extension aux autres services, supervision, procédure de mise à jour.

Cette démarche permet de mesurer la valeur avant les grosses dépenses. Si le pilote montre que la tâche peut être résolue, l’achat de matériel se décide sur la base de mesures.

Les erreurs fréquentes

Nous sommes Sphere, agence digitale à Paris : nous créons des sites, des applications et des services web, et nous aidons les entreprises à mettre l’IA au travail. Si vous vous demandez s’il vous faut votre propre modèle d’IA, commencez par une tâche et une comparaison honnête des modèles sur vos données. Vous trouverez des exemples de services web et d’intégrations parmi les projets de notre agence de développement.

Questions fréquentes

Si le modèle d’IA tourne sur notre serveur, peut-on ignorer le RGPD ?

Non. Le règlement encadre le traitement des données personnelles, pas l’emplacement du modèle. Un modèle local supprime le transfert des données vers un fournisseur externe, mais les finalités, les bases légales, les droits d’accès et les mesures de sécurité doivent toujours être définis et documentés. Le dispositif précis se valide avec votre juriste, votre DPO et votre équipe sécurité.

Un modèle local répondra-t-il aussi bien qu’un modèle cloud ?

Tout dépend de la tâche. Sur des tâches ciblées comme le tri des demandes, l’extraction de champs dans des documents ou les réponses à partir d’une base de connaissances, les modèles open source s’en sortent souvent bien. Sur le raisonnement complexe et les textes longs, l’écart peut se faire sentir. C’est pourquoi le modèle se choisit à partir de tests sur vos exemples, et non sur des classements.

Peut-on démarrer sans acheter de serveurs ?

Oui. Un pilote se mène souvent sur des capacités louées dans un cloud européen ou chez un fournisseur de serveurs dédiés. On voit ainsi de quel modèle et de quel matériel vous avez réellement besoin, et l’achat devient une décision éclairée plutôt qu’un pari à l’aveugle.

Qui assurera la maintenance du modèle d’IA de l’entreprise après le lancement ?

Il faut un responsable du serveur et du service : mises à jour, supervision, sauvegardes, résolution des incidents, contrôle de la qualité après un changement de modèle. Ce peut être votre équipe informatique, un prestataire ou les deux. Réglez la question de la maintenance avant le lancement, pas après la première panne.

Parlons de votre projet
À lire aussi