IA
Tracking multi-cibles en environnement GPS-denied : la fiabilité comme exigence opérationnelle de défense
Un système de tracking peut afficher 95 % de précision en démonstration et perdre la moitié de ses cibles dès que l'environnement se dégrade. Sur un banc d'essai, la scène est propre, le signal GPS est présent, les objets sont espacés. Sur le terrain, c'est l'inverse : brouillage, occultations, densité de cibles, capteurs partiellement aveugles. La performance moyenne mesurée en laboratoire ne dit rien de la fiabilité de chaque piste au moment où une décision se prend.
C'est le point de départ de l'ouverture de TrustalAI sur la verticale Défense. Le sujet n'est pas de détecter plus. Il est de savoir, à chaque prédiction, si le suivi d'une cible mérite d'être exploité, y compris quand les conditions rendent l'IA silencieusement moins fiable.
Le vrai problème : des conditions opérationnelles dégradées, pas une IA insuffisante
Les modèles de perception et de tracking militaires sont entraînés sur des données. En environnement contesté, ces données ne ressemblent plus à celles de l'entraînement.
Le brouillage électronique prive le système de repères. Les scènes denses multiplient les cibles proches, mobiles, parfois indiscernables. Les environnements GPS-denied suppriment l'ancrage de localisation dont dépendent la plupart des pipelines de fusion. Résultat concret : des détections fantômes, des cibles ratées, des permutations d'identité entre deux objets qui se croisent.
Le problème n'est pas que le modèle soit mauvais. C'est qu'il continue de produire des sorties avec le même aplomb, qu'il soit dans son domaine de validité ou hors de celui-ci. Une IA qui échoue en silence est plus dangereuse qu'une IA qui échoue bruyamment. En défense, ce silence a un coût opérationnel, et parfois humain.
La limite du tracking learning-based en défense
Le tracking learning-based apprend une représentation du monde à partir d'un jeu de données. Cette approche fonctionne tant que le terrain reste proche du domaine d'entraînement. Elle se fragilise dès qu'on s'en éloigne.
Trois limites reviennent systématiquement.
D'abord, la dérive des modèles. Un modèle calibré sur un théâtre, une saison ou une signature de capteur donnée voit sa fiabilité chuter sur un autre contexte, sans le signaler. Le model drift est silencieux par nature.
Ensuite, la dépendance au réentraînement. Adapter un modèle learning-based à un nouvel environnement suppose de collecter des données représentatives, de les annoter, de réentraîner, de revalider. Ce cycle est long et coûteux. Il est souvent impossible dans un contexte où les données terrain sont rares, sensibles ou classifiées.
Enfin, l'opacité de la décision. Beaucoup de systèmes restent des boîtes noires. Ils fournissent une sortie, pas une mesure de la confiance à accorder à cette sortie. Or en environnement contesté, la question utile n'est pas « quelle est la position estimée ? » mais « puis-je faire confiance à cette piste précise, maintenant ? ».
Des travaux récents décrivent ce problème sous le terme de « silent failure » : des systèmes IA qui produisent des erreurs confiantes sans le moindre signal d'alerte, y compris en production critique (Betakit / ApplyBoard).
TrustalAI V-Tracking : un tracking non déterministe, learning-free
TrustalAI V-Tracking répond à cette limite par un changement de logique. Au lieu d'apprendre encore une représentation de plus, le produit ajoute une couche de fiabilité par prédiction au flux de détections existant.
Le suivi est non déterministe : chaque piste porte une estimation de son incertitude, pas seulement une position. Il est learning-free : il fonctionne sur le flux de détections en place, sans réentraînement du modèle et sans accès à son IP. Il tourne en edge avec une latence de 20 ms, sous la barre des <100ms exigée en temps réel.
Ce que cela produit, mesuré sur les métriques officielles du produit (TRL9) :
x2.1 objets suivis simultanément
81,9 % de recall, 97 % de précision
-64,7 % d'erreurs de localisation
-96,7 % de fausses détections
-46 % d'identity switches
Les identity switches méritent qu'on s'y arrête. En scène dense, deux cibles qui se croisent peuvent voir leurs identités permutées par le tracker. Sur une trajectoire suivie, cette permutation propage une erreur en aval. Réduire ces switches de moitié, c'est maintenir la continuité du suivi là où les approches classiques la perdent.
Sur la partie perception, TrustalAI Vision joue le même rôle au niveau de la détection : une brique de fiabilité en plug-and-play, compatible black-box avec les modèles de vision existants, qui attache à chaque détection une mesure d'incertitude (-80 % d'erreurs, -83 % de faux positifs, 20 ms). Vision et V-Tracking se combinent : l'un fiabilise la détection image par image, l'autre fiabilise le suivi dans le temps.
Un point d'honnêteté : ces chiffres sont des métriques de confiance validées au niveau produit, en environnement opérationnel réel (TRL9). Ils ne constituent pas un résultat de terrain défense publié. La brique est éprouvée ; son application à un théâtre donné reste à qualifier au cas par cas.
Fiabilité par prédiction vs monitoring agrégé : la distinction qui compte
La plupart des approches de supervision IA observent le comportement d'un système après exécution. Elles agrègent des métriques sur des lots de décisions, produisent des tableaux de bord, signalent une dérive une fois qu'elle s'est installée. C'est du monitoring post-mortem.
Le problème est de timing. Quand une métrique agrégée révèle un problème, la décision a déjà été prise et l'action a déjà eu lieu. En défense, l'écart entre « le système a mal fonctionné » et « on l'a su » se paie sur la mission.
La fiabilité par prédiction inverse cette logique. Elle ne juge pas le modèle sur sa moyenne. Elle mesure, pour chaque piste et chaque détection, si cette sortie précise est suffisamment fiable pour être suivie, avant que la décision soit prise. Une performance moyenne de 97 % peut masquer les 3 % de cas où le système échoue, et ce sont précisément ces cas qui comptent en environnement contesté.
Autrement dit : le monitoring agrégé vous dit comment votre modèle s'est comporté hier. La per-prediction reliability vous dit si vous pouvez lui faire confiance maintenant, sur cette cible.
Conformité EU AI Act et systèmes militaires : un enjeu secondaire
La question réglementaire revient dès qu'on parle d'IA critique. Pour la défense stricte, elle est plus légère qu'ailleurs.
L'EU AI Act (Règlement 2024/1689) exclut de son champ d'application les systèmes IA développés ou utilisés exclusivement à des fins militaires, de défense ou de sécurité nationale (article 2, paragraphe 3). Un système strictement militaire est donc hors périmètre : les obligations du régime « haut risque » ne s'y appliquent pas tant qu'il reste cantonné à ces usages. La pression qui pèse lourd sur l'ADAS, la vidéoprotection biométrique ou le contrôle qualité industriel est ici marginale. Ces systèmes restent toutefois encadrés autrement : droit national, contrôle des exportations, droit international.
Le double usage nuance ce constat. Le considérant 24 du règlement précise qu'un système conçu pour un usage militaire retombe dans le champ dès qu'il sert, même temporairement, à des fins civiles, humanitaires ou de maintien de l'ordre. Un produit placé sur le marché à la fois pour un usage exclu et pour un usage non exclu relève du règlement pour ce second usage, et son fournisseur doit alors en assurer la conformité. Une même brique de perception vendue en version civile et militaire garde donc sa ligne civile dans le périmètre de l'AI Act.
S'ajoute une attente de fiabilité qui déborde le cadre réglementaire. Les standards de certification émergents pour l'IA embarquée, comme la norme UL 3115 centrée sur la robustesse et le maintien d'un « human in control » (Fortune), ne découlent pas de l'AI Act mais installent une exigence de preuve. Sous le régime haut risque, pouvoir rejouer une décision (version de modèle, données utilisées, contrôles appliqués, points d'intervention humaine) devient un critère d'acquisition autant qu'une obligation (The Recursive).
TrustalAI contribue à cette documentation de fiabilité sans certifier la conformité : la certification reste du ressort des autorités compétentes et des organismes notifiés.
Ce que la fiabilité par prédiction change sur le terrain
Reste la question qui intéresse un responsable programme : qu'est-ce que ça change une fois déployé ?
Un tracking dont on connaît l'incertitude à chaque instant permet de hiérarchiser : traiter en priorité les pistes fiables, mettre en attente celles qui ne le sont pas, alerter quand le système sort de son domaine de validité. Moins d'identity switches, c'est une continuité de suivi maintenue sur cibles mobiles en haute densité. Moins de fausses détections, c'est moins de ressources engagées sur des cibles qui n'existent pas, et un risque collatéral réduit.
Le caractère learning-free change aussi l'économie du déploiement. Pas de collecte de données classifiées, pas de cycle de réentraînement à chaque nouveau contexte. La couche de fiabilité s'ajoute au système en place, en plug-and-play, sans toucher au modèle sous-jacent.
Il y a enfin un enjeu de souveraineté. Selon SaferAI, l'Europe est plus exposée que les États-Unis aux secteurs où l'IA ne peut être adoptée sans garanties fortes de fiabilité (SaferAI, mars 2026). Pour la défense, dépendre d'un fournisseur externe pour la brique de fiabilité de ses systèmes critiques n'est pas neutre. Une couche de fiabilité européenne répond à cette exigence. Le débat sur l'indépendance des fournisseurs d'IA vis-à-vis des donneurs d'ordre publics est d'ailleurs déjà ouvert (Al Jazeera).
La fiabilité ne commence pas après la décision. En environnement contesté, elle doit être visible au moment où la décision se prend.
FAQ
Qu'est-ce qu'un environnement GPS-denied et pourquoi complique-t-il le tracking IA ?
Un environnement GPS-denied est une zone où le signal de géolocalisation est brouillé, dégradé ou indisponible. La plupart des pipelines de fusion s'appuient sur cet ancrage pour corréler les capteurs. Sans lui, le tracking multi-cibles accumule les erreurs de localisation et les permutations d'identité, surtout en scène dense.
En quoi le tracking learning-free diffère-t-il du tracking learning-based ?
Le tracking learning-based apprend une représentation à partir d'un jeu de données et doit être réentraîné pour s'adapter à un nouveau contexte. Le tracking learning-free, comme TrustalAI V-Tracking, fonctionne directement sur le flux de détections existant, sans réentraînement ni accès au modèle. Il s'adapte donc sans cycle de collecte et d'annotation de données.
Qu'est-ce que la fiabilité par prédiction ?
La fiabilité par prédiction mesure, pour chaque détection ou chaque piste, si cette sortie précise est suffisamment fiable pour être exploitée, en temps réel et avant la décision. Elle se distingue du monitoring agrégé, qui évalue le modèle après coup sur une moyenne et détecte les problèmes une fois qu'ils sont déjà passés.
L'EU AI Act s'applique-t-il aux systèmes militaires ?
Pas pour la défense stricte. L'EU AI Act (Règlement 2024/1689, article 2, paragraphe 3) exclut de son champ d'application les systèmes utilisés exclusivement à des fins militaires, de défense ou de sécurité nationale. Ces systèmes relèvent d'autres cadres : droit national, contrôle des exportations, droit international. Le règlement peut resurgir en cas de double usage : un système servant aussi, même temporairement, à des fins civiles ou de maintien de l'ordre retombe dans son périmètre pour ces usages.
Sources
Partager
Articles connexes
