Une IA qui tourne chez vous,ou en Suisse.

Ce qu’est une IA locale, concrètement

Les grands modèles d’IA sont habituellement utilisés par abonnement, via Internet, chez un fournisseur américain ou européen. Une IA locale utilise à la place un modèle ouvert, dont les fichiers sont téléchargés et exécutés sur votre propre machine. Le modèle lit vos documents, répond à vos questions et alimente vos automatisations, exactement comme un service en ligne, mais sans que rien ne sorte de votre réseau.

• Modèles ouverts courants : Llama (Meta), Mistral (France), Qwen (Alibaba), Gemma (Google), en versions de 7 à 70 milliards de paramètres.
• Deux emplacements possibles : un serveur dans vos locaux, ou un serveur dédié chez un hébergeur en Suisse.
• Les mêmes usages qu’une IA en ligne : assistant interne, tri d’e-mails, rédaction, extraction de données, recherche dans les documents.
• Une interface identique pour votre équipe : messagerie, application métier, espace client.

Pour qui c’est pertinent

L’IA locale n’est pas la bonne réponse pour tout le monde. Elle se justifie dans des situations précises.

• Fiduciaires, cabinets, études, cliniques, RH : des données personnelles ou confidentielles qui ne doivent pas être transmises à un tiers.
• Entreprises soumises à des exigences contractuelles ou sectorielles sur la localisation des données.
• PME avec un usage intensif et régulier, pour qui un abonnement à l’usage devient coûteux et imprévisible.
• Organisations qui veulent garder la maîtrise de l’outil dans la durée, indépendamment des changements de prix ou de conditions d’un fournisseur.

Les avantages

Quatre bénéfices reviennent dans les projets d’IA locale.

• Confidentialité : les documents et les questions restent sur votre infrastructure. Aucune donnée n’est transmise ni conservée par un fournisseur.
• Conformité LPD facilitée : pas de transfert à l’étranger à documenter, un sous-traitant de moins.
• Indépendance : pas de dépendance à un fournisseur américain, à ses prix, à ses conditions ou à sa disponibilité.
• Coûts prévisibles : un investissement matériel ou un serveur mensuel fixe, sans facturation à l’usage.

Les contreparties à connaître

Un modèle ouvert de taille moyenne est moins performant qu’un grand modèle commercial sur les tâches complexes : raisonnement long, textes très spécialisés, langues rares. Pour la plupart des tâches de PME (résumer, classer, extraire, rédiger un brouillon, répondre à partir de documents), il suffit. Le matériel doit être dimensionné, mis à jour et sauvegardé. Fusepoint propose souvent une approche mixte : IA locale pour les données sensibles, modèle en ligne pour le reste.

Prérequis matériels et logiciels

Les besoins dépendent de la taille du modèle et du nombre d’utilisateurs simultanés.

• Petite PME, modèle de 7 à 14 milliards de paramètres : une station de travail ou un mini-serveur avec une carte graphique de 16 à 24 Go de mémoire vidéo, 32 à 64 Go de RAM, SSD rapide.
• Usage soutenu ou modèle de 30 à 70 milliards : un serveur avec une ou deux cartes graphiques professionnelles (48 Go et plus), ou un serveur GPU loué chez un hébergeur suisse.
• Logiciels : un moteur d’inférence (Ollama, vLLM ou équivalent), une base de recherche documentaire pour le RAG, une interface et des connecteurs vers vos outils.
• Exploitation : sauvegardes, mises à jour du modèle et des logiciels, surveillance, accès sécurisés. Prévus dans l’offre de suivi.