« Surveiller ses IA sans dépendre d'un acteur américain : c'est devenu une question de gouvernance »

# « Surveiller ses IA sans dépendre d'un acteur américain : c'est devenu une question de gouvernance »

*En 2026, la start-up américaine SAPIOM vient de lever 35 millions de dollars pour développer ses outils d'observabilité dédiés aux systèmes d'intelligence artificielle. Un signal de plus qui montre à quel point la supervision des IA est devenue un marché stratégique — et un terrain où l'Europe accuse un retard préoccupant. Nous avons interrogé un DSI d'une ETI industrielle franco-allemande, pilote depuis deux ans d'un programme de déploiement d'IA en production.*

RiffLab Media : Commençons par les bases. Quand on parle d'observabilité des IA, de quoi parle-t-on exactement ?

L'observabilité, c'est la capacité à comprendre ce qui se passe à l'intérieur d'un système en analysant ce qu'il produit. Pour une IA — un modèle de langage, un système de recommandation, un outil d'aide à la décision — cela signifie concrètement : est-ce que le modèle répond de façon cohérente dans le temps ? Est-ce que ses résultats dérivent ? Est-ce qu'il consomme plus de ressources que prévu ? Est-ce qu'il produit des réponses biaisées ou erronées dans certaines conditions ?

On parle souvent de monitoring — la surveillance en temps réel — mais l'observabilité va plus loin. Elle permet de rejouer ce qui s'est passé, de comprendre pourquoi un modèle a échoué sur un cas précis, d'auditer ses décisions. C'est indispensable dès qu'une IA intervient dans un processus métier réel : validation de devis, tri de candidatures, analyse de documents contractuels.

RiffLab Media : La levée de fonds de SAPIOM montre que ce marché est en pleine explosion. Pourquoi maintenant ?

Parce que nous sommes passés à une nouvelle phase. En 2023-2024, les entreprises expérimentaient. Elles testaient des IA en environnement contrôlé, souvent sur des cas d'usage non critiques. Aujourd'hui, ces systèmes sont en production. Ils prennent — ou influencent — de vraies décisions, sur de vraies données, avec de vrais impacts métier.

Et là, la question de la supervision devient urgente. Un modèle qui dérive silencieusement pendant trois semaines avant qu'un commercial s'en rende compte, c'est un risque opérationnel concret. Sans outillage d'observabilité, vous volez à l'aveugle. Ce que fait SAPIOM — et ce que font d'autres acteurs américains sur ce créneau — c'est de répondre à ce besoin réel. Le problème, c'est que cette réponse arrive depuis l'autre côté de l'Atlantique, avec toutes les implications que cela comporte.

RiffLab Media : Quelles implications justement ? En quoi dépendre d'un outil américain pour surveiller ses IA pose-t-il un problème de souveraineté ?

C'est la question centrale, et elle est souvent sous-estimée. Quand vous déployez un outil d'observabilité sur vos systèmes d'IA, vous lui donnez accès à quelque chose d'extrêmement sensible : les traces de vos modèles. Ce sont les logs de chaque requête, les données d'entrée, parfois partiellement, les sorties, les métriques de performance.

Concrètement, un outil d'observabilité voit *comment* votre IA travaille, *sur quoi* elle travaille, et *où* elle échoue. Si cet outil est opéré par un acteur américain, soumis au Cloud Act — une loi américaine qui autorise les autorités américaines à réclamer des données hébergées par des entreprises américaines, y compris hors du territoire US — vous perdez le contrôle sur ces informations. Vous exposez potentiellement des données métier, des schémas de décision, des failles de vos modèles. C'est un risque de confidentialité, mais aussi un risque concurrentiel.

RiffLab Media : D'un point de vue organisationnel, qu'est-ce que cela change concrètement pour une ETI comme la vôtre ?

Cela change énormément, et c'est là que le sujet devient vraiment opérationnel. Nous avons dû repenser notre gouvernance de l'IA à partir de cette question : qui surveille nos modèles, avec quels outils, et où ces outils sont-ils hébergés ?

Première conséquence : nous avons créé un rôle que nous appelons en interne « responsable qualité IA ». Ce n'est pas un data scientist au sens classique. C'est quelqu'un qui comprend les modèles, mais dont la mission principale est de définir les seuils d'alerte, de lire les tableaux de bord d'observabilité, de déclencher les procédures de révision quand un modèle dérive. Ce profil n'existait pas dans nos fiches de poste il y a trois ans.

Deuxième conséquence : nous avons intégré l'observabilité dans notre comité de gouvernance des données, au même titre que la protection des données personnelles. Chaque nouveau déploiement d'IA doit répondre à une question obligatoire : avec quel outil allons-nous le surveiller, et cet outil respecte-t-il nos exigences de localisation des données ?

RiffLab Media : Justement, existe-t-il des alternatives européennes sérieuses sur ce segment de l'observabilité IA ?

C'est la bonne question, et la réponse honnête est : le marché européen est encore en construction sur ce créneau précis. Il existe des acteurs européens solides sur l'observabilité applicative au sens large — la supervision des infrastructures, des API, des pipelines de données. Certains commencent à étendre leurs capacités vers la supervision des modèles d'IA.

Nous travaillons notamment avec une solution développée en Europe qui couvre une partie de nos besoins, hébergée sur une infrastructure dont nous maîtrisons la localisation. Ce n'est pas encore aussi mature que les offres américaines sur tous les aspects. Mais c'est un choix délibéré de notre direction : on accepte de contribuer à faire monter un écosystème européen plutôt que d'optimiser à court terme avec un acteur américain. C'est un arbitrage stratégique, pas une décision purement technique.

Ce que la levée de fonds de SAPIOM doit provoquer chez nous, Européens, c'est une prise de conscience : si on ne finance pas, si on ne commande pas, si on ne co-construit pas des outils européens d'observabilité IA, dans trois ans ce marché sera américain par défaut. Et il sera très difficile d'en sortir.

RiffLab Media : Quelles compétences une ETI doit-elle absolument développer en interne pour ne pas rester dépendante des prestataires sur ce sujet ?

Je vais être précis, parce que la tentation est grande de tout externaliser et de se dire qu'on gérera ça avec un intégrateur.

La compétence numéro un à internaliser, c'est la capacité à définir ses propres critères de qualité pour un modèle d'IA. Qu'est-ce qu'un bon résultat dans mon contexte métier ? Quand est-ce qu'un modèle doit être revu ou retiré ? Ce savoir-faire ne peut pas être délégué à un prestataire américain — parce que lui n'a pas accès à votre réalité terrain, et parce que si vous le laissez définir ces critères, vous lui donnez un levier de dépendance supplémentaire.

La compétence numéro deux, c'est la lecture des métriques d'observabilité. Former deux ou trois personnes dans votre équipe à comprendre ce que racontent ces tableaux de bord. Pas à les construire techniquement — ça, un prestataire peut le faire — mais à les interpréter et à prendre des décisions à partir d'eux.

La compétence numéro trois, c'est la gestion des incidents IA. Avoir un processus documenté : que fait-on quand un modèle sort de ses rails ? Qui est alerté ? En combien de temps ? Qui décide de la suspension ? Ce process doit exister dans votre organisation, pas dans le manuel d'un éditeur américain.

Ces trois compétences sont à la fois accessibles et décisives. Elles ne nécessitent pas de recruter des docteurs en machine learning. Elles nécessitent de former des profils déjà présents dans vos équipes — des responsables applicatifs, des chefs de projet digital — à de nouveaux réflexes. C'est un investissement RH raisonnable. C'est le prix de l'autonomie.

*La levée de fonds de SAPIOM n'est pas anecdotique. Elle cristallise une dynamique : l'observabilité des IA est en train de devenir une infrastructure critique des systèmes d'information. En laisser le contrôle à des acteurs américains, c'est accepter une dépendance supplémentaire — cette fois non plus sur les modèles eux-mêmes, mais sur la capacité à les surveiller. Pour les DSI européens, le chantier organisationnel commence maintenant.*