insights28 juillet 20267 min

IA locale: garder les données sur le terminal ne suffit pas

Note exécutive TokenShift

Le signal le plus important de la semaine n'est pas un nouveau record de puissance. C'est le déplacement du lieu d'exécution: des modèles capables de traiter texte, image ou audio quittent le centre de données pour le terminal. Pour un COMEX, la question devient donc très concrète: qui décide de ce qui s'exécute où, avec quelles données et quelle preuve?

L'IA locale devient une vraie option d'architecture

Le 13 juillet 2026, Google a présenté Gemma 4 E2B exécuté nativement sur le TPU du Pixel 10, avec des démonstrations hors ligne sur du texte, des images et de l'audio. Le 14 juillet, PrismML a affirmé que sa version 1 bit de Bonsai 27B occupait 3,9 Go, contre environ 54 Go en précision 16 bits, et atteignait 11 jetons par seconde sur un iPhone 17 Pro. Google Developers Blog, 2026, PrismML, 2026

Ces résultats proviennent des fournisseurs et doivent être reproduits sur les tâches de l'entreprise. Leur convergence est néanmoins significative: l'IA locale n'est plus limitée à la correction orthographique ou à une classification élémentaire.

Elle ne remplace pas le cloud. Elle ajoute une zone d'exécution.

| Zone | Bon candidat | Contrepartie à maîtriser | | --- | --- | --- | | Terminal | Données sensibles, tâche bornée, usage hors ligne | Parc hétérogène, mises à jour, journaux dispersés | | Infrastructure privée | Contexte métier partagé, règles centrales, audit | Capacité, exploitation, coût fixe | | Cloud externe | Tâche complexe, capacité élastique, modèle avancé | Transferts, coût variable, dépendance fournisseur |

Garder les données localement n'est pas une gouvernance

Une revue publiée en 2026 dans Expert Systems with Applications arrive à une conclusion utile: l'apprentissage fédéré conserve les données brutes localement, mais ne résout pas l'opacité des modèles. Les auteurs relèvent aussi l'absence de mesures standardisées pour la qualité des explications, leur stabilité, les fuites d'information et le surcoût de calcul. L'apprentissage fédéré n'est pas l'inférence locale, mais l'avertissement est transposable: déplacer le calcul ne suffit pas à maîtriser la décision. Gholizade et al., 2026

Le CEPD rappelle en février 2026 que la protection des données dès la conception est une obligation continue, avec minimisation par défaut et réévaluation régulière. Pour les systèmes d'IA à haut risque, le règlement européen impose notamment la journalisation automatique, le contrôle humain, ainsi que l'exactitude, la robustesse et la cybersécurité dans ses articles 12, 14 et 15. CEPD, 2026, Union européenne, règlement 2024/1689

L'exécution locale peut donc réduire une exposition. Elle ne fournit ni base légale, ni contrôle humain, ni piste d'audit par elle-même.

La méthode du Routage gouverné

Le Routage gouverné est une politique vérifiable qui affecte chaque étape d'un workflow à une zone d'exécution. Il se construit en cinq étapes.

Découper le workflow. Séparez réception, extraction, rapprochement, recommandation, décision et exécution. Un même dossier peut emprunter trois zones sans qu'une seule application soit déclarée entièrement locale ou cloud.
Classer chaque étape. Documentez la catégorie de données, l'effet métier, la réversibilité et la latence requise. Une tâche locale à fort impact exige toujours un contrôle; une tâche cloud sur des données minimisées peut être acceptable si sa finalité et ses garde-fous sont établis.
Fixer la route et le repli. Pour chaque étape, autorisez le terminal, l'infrastructure privée ou le cloud. Précisez les données admises, la transformation préalable, le modèle et sa version, le seuil de confiance et le comportement hors ligne. Un repli vers le cloud ne doit jamais être implicite.
Tester sur le travail réel. Constituez un jeu versionné, représentatif des langues, appareils, segments clients et cas difficiles. Mesurez les erreurs par champ, les refus, les corrections humaines et les écarts entre populations. Un score moyen du fournisseur ne valide pas votre workflow.
Attribuer la propriété et instrumenter. Le propriétaire métier répond du résultat; l'IT de l'exécution; la fonction risques valide les contrôles; la sécurité gère les mises à jour et la révocation. Chaque passage consigne la route, la version, la classe de données, le statut de sortie et l'intervention humaine, avec une conservation proportionnée.

Mini-cas: un sinistre automobile réparti entre trois zones

Dans un assureur européen fictif, Claire dirige les opérations de sinistres. L'application mobile analyse localement les photos et le commentaire vocal, extrait les champs utiles et masque les identifiants. L'infrastructure privée rapproche ensuite ces éléments du contrat et des règles de gestion. Seuls les récits ambigus, pseudonymisés, partent vers un modèle cloud; aucun refus ni paiement n'est exécuté sans validation du gestionnaire.

Le tableau de bord du pilote doit rendre observables:

la part des dossiers dont aucune donnée brute n'a quitté le terminal, par classe de données;
le taux de repli vers le cloud et son motif;
le taux de correction humaine par champ, langue et appareil;
le délai au 95e centile et le coût par dossier terminé;
la complétude des journaux, les violations de route et le taux de dossiers rouverts.

Le résultat n'est acquis que si délai ou coût baissent sans hausse des corrections, des litiges ni des écarts de politique.

Erreurs à éviter

Le faux local: le modèle tourne sur le terminal, mais la télémétrie, les sauvegardes ou les pièces jointes remontent les données brutes.
Le repli silencieux: une confiance faible déclenche un appel cloud sans filtrage ni trace.
Le benchmark moyen: une précision globale masque les erreurs sur une langue, un appareil ou une population.
La conformité par hébergement: rester sur le terminal ou dans l'Union ne répond pas à la finalité, aux droits des personnes et au contrôle humain.
L'économie au jeton: comparer seulement le prix d'API ignore le parc matériel, les mises à jour, l'assistance et les replis. Le bon dénominateur est le dossier terminé.

Décision à prendre au prochain COMEX

Choisissez un workflow, exigez sa carte de routage sur une page, nommez son propriétaire métier et approuvez les règles de repli. Faites ensuite établir une référence avant pilote pour le délai, le coût, la qualité, les incidents et les interventions humaines.

Une donnée qui ne quitte pas le terminal réduit une exposition; elle ne crée ni responsabilité, ni preuve, ni contrôle.

Si l'équipe ne peut pas reconstruire la route d'un dossier et expliquer pourquoi chaque donnée a franchi un périmètre, elle ne dispose pas encore d'une IA locale gouvernée.

Sources

Continuer la lecture

Voir toutes les analyses