Perception robotique : une boîte, deux détections

Un modèle de perception robotique peut détecter deux boîtes là où il n'y en a qu'une, avec une confiance élevée sur les deux. Un reflet suffit. La confiance n'est pas la fiabilité. Voici pourquoi, et ce que change une fiabilité calculée pour chaque prédiction.

Pourquoi un robot voit deux boîtes là où il n'y en a qu'une

Prenons un robot mobile face à un vrai carton et à son reflet dans un miroir mural. Le système de perception détecte deux cartons et donne à chacun un score élevé. Dans cette scène illustrative, les scores sont de 96 % et de 91 % : ce ne sont pas des résultats. Le robot peut contourner un objet fantôme et perdre en efficacité. Il peut aussi suivre une mauvaise trajectoire et heurter le vrai carton. Une personne s'arrêterait pour regarder à nouveau. Rien dans les deux scores n'incite le robot à en faire autant.

Reflets et surfaces brillantes

Un reflet est un fantôme physique : la seconde boîte se trouve ailleurs dans l'espace. Les surfaces réfléchissantes sont une source d'erreur documentée, pour les caméras comme pour les LiDAR. Une caméra peut être perturbée par le contenu réfléchi dans un miroir (Yang et al., 2019). Dans des expériences avec un robot mobile et un LiDAR 2D, les balayages laser peuvent être entièrement réfléchis, des objets peuvent être cartographiés derrière le miroir, et le robot peut se détecter lui-même à sa surface (Damodaran et al., 2023).

Dans un entrepôt, une paroi miroir ou une cloison vitrée au bout d'une allée pourrait produire le même effet. Côté détection, la seconde boîte est un faux positif de reflet, et le score rapporté ne dit pas si la détection est réelle. Les véhicules rencontrent un problème voisin : des murs fantômes dans les nuages de points (point cloud) du LiDAR. Nous traitons les erreurs de perception en véhicule autonome à part.

Occlusions et doublons

Un doublon est un artefact de la chaîne d'inférence : plusieurs boîtes se recouvrent sur un même objet. Les détecteurs produisent de nombreuses boîtes candidates autour de chaque objet réel (Liu et al., 2019). La suppression des non-maxima (NMS) garde la boîte la mieux notée et retire toute boîte qui la recouvre au-delà d'un seuil fixé. De nombreux détecteurs utilisent cette étape, et certains modèles récents s'en passent (documentation Ultralytics, 2026).

Un seul seuil impose un arbitrage. Une valeur basse supprime de vrais objets qui se recouvrent, ce qui crée des faux négatifs. Une valeur haute laisse passer davantage de faux positifs (Liu et al., 2019). Ces travaux portent sur des foules de piétons : des cartons empilés ne sont donc qu'une analogie. Un seuil réglé sur des étagères dégagées pourrait supprimer un vrai carton dans un empilement, ou garder deux boîtes autour d'un seul.

Un même objet peut aussi sortir sous deux étiquettes quand la suppression s'applique classe par classe (documentation Ultralytics, 2026). Un doublon qui survit porte un score comme n'importe quelle autre boîte, et rien dans ce score ne dit que l'objet a déjà été compté.

Un éclairage hors de la distribution d'entraînement

Dans un benchmark de 2019 sur des images corrompues, des détecteurs d'objets standards ne conservaient que 30 à 60 % de leur performance d'origine (Michaelis et al., 2019). Les corruptions étaient synthétiques, et le benchmark mesurait la performance de détection, pas la confiance. Par ailleurs, les réseaux ReLU produisent presque toujours des prédictions très confiantes loin de leurs données d'entraînement (Hein et al., 2019). Cette étude porte sur la classification, pas sur la détection d'objets.

Le lien entre ces deux faits est notre inférence, pas un résultat mesuré. Un changement d'éclairage qui éloigne les images des données d'entraînement pourrait dégrader les détections sans faire baisser le score rapporté. Un quai éclairé autrement que l'allée en est un cas plausible. Voir la détection hors distribution et la perception en conditions dégradées.

La confiance n'est pas la fiabilité

Un score de confiance est ce que le détecteur dit de sa propre sortie, et une probabilité softmax en est l'exemple classique. La fiabilité est ce qu'une couche indépendante mesure à propos de cette sortie.

Score de confiance. Le score de confiance désigne le nombre qu'un détecteur attache lui-même à chacune de ses détections. Dans la conception YOLO d'origine, il est défini comme la probabilité qu'un objet soit présent, multipliée par le recouvrement entre la boîte prédite et la boîte réelle. Ce n'est pas une probabilité d'avoir raison, mesurée sur le terrain.

Fiabilité par prédiction. La fiabilité par prédiction désigne une mesure, calculée pour chaque prédiction individuelle et avant la décision, de la confiance qu'on peut lui accorder. Elle est produite par une couche indépendante du modèle. Pour une détection 2D, elle prend la forme d'une incertitude sur la position et la taille de la boîte (σx, σy, σw, σh).

À notre lecture, un score natif indique surtout dans quelle mesure l'entrée ressemble à ce que le modèle a appris. C'est une interprétation, pas une propriété mesurée de tous les détecteurs. En moyenne, un score élevé reste associé à une détection correcte.

Ce que change un score de fiabilité par frame

Revenons à la scène. TrustalAI Vision quantifie en temps réel l'incertitude de chaque détection. Un score de fiabilité par frame résume cette incertitude pour chaque détection d'une image, afin qu'un système puisse fixer des seuils. Le vrai carton porte une faible incertitude : le robot continue. Le reflet porte une forte incertitude : le robot ralentit, observe à nouveau ou s'adapte. TrustalAI ne dit pas au robot quelle boîte est un reflet. Le système du robot décide, et ce résultat est illustratif, pas une garantie.

Procéder, ralentir ou demander une vérification

Les robots ralentissent et s'arrêtent déjà, mais selon la distance et la zone, pas selon la fiabilité de chaque détection. Trois exemples montrent où un signal de fiabilité viendrait se brancher :

• Le contrôle de la vitesse et de la distance de séparation (speed and separation monitoring) est une fonction de sécurité fonctionnelle des applications collaboratives, et non du monitoring d'IA.
  La norme ISO 10218-2:2025, consacrée aux applications robotisées industrielles et aux cellules robotisées, le décrit parmi ses méthodes collaboratives. Elle repose sur des distances mesurées, et celles-ci viennent de la perception. Une incertitude sur la position détectée indiquerait au système jusqu'où se fier à chaque distance.

• Les scrutateurs laser de sécurité des robots mobiles utilisent en général un champ d'alerte qui ralentit le véhicule et un champ de protection qui l'arrête. Un reflet à l'intérieur d'un tel champ pourrait déclencher la même réaction qu'un vrai obstacle : c'est notre inférence. La réaction existe, mais la fiabilité de chaque détection manque.

• Une méthode d'évitement de collision de 2017 avançait avec prudence dans les environnements peu familiers et accélérait là où elle avait une forte confiance (Kahn et al., 2017). Son incertitude porte sur la prédiction d'une collision, pas sur la détection d'objets : c'est un précédent pour le principe, pas une méthode de détection.

Sans signal fiable, un robot est ralenti ou placé sous supervision humaine. Avec un signal fiable, il peut garder sa pleine vitesse là où la perception est fiable, avec moins d'arrêts non planifiés, moins d'immobilisations et une meilleure sécurité pour l'opérateur. Un arrêt inutile coûte de l'efficacité, et un faux feu vert coûte de la sécurité. Voir les arrêts non planifiés causés par la vision IA et le risque physique en zone partagée.

Le cercle du GPS, version robot

Un GPS affiche un point bleu et un cercle autour. Sur l'autoroute, le cercle est serré. Dans un tunnel, il s'élargit : le même système vous dit qu'il est moins sûr, au lieu de faire semblant du contraire. Imaginez maintenant un robot dans l'allée d'un entrepôt. Derrière une palette ou devant un miroir, le point bleu a le même aspect, mais le cercle devrait être large. TrustalAI trace ce cercle sous la forme d'une Reliability Bubble autour de chaque détection : plus la bulle est proche de la boîte, plus la confiance dans l'objet est forte.

Most AI systems only ever show you the blue dot, even underground. TrustalAI adds the circle to any prediction, in real time. En français : la plupart des systèmes d'IA n'affichent que le point bleu, même sous terre ; TrustalAI ajoute le cercle à toute prédiction, en temps réel.

Fiabilité par prédiction et monitoring post-mortem

Les outils existants travaillent sur des agrégats. Ils attendent de nombreuses prédictions, calculent des métriques, puis rapportent après coup. Cela n'aide pas un robot qui doit décider maintenant. Le tableau met les deux approches côte à côte.

Others analyze after execution: the decision has already been made, the action has already been taken. TrustalAI brings reliability at prediction time, before the decision is made. En français : les autres analysent après l'exécution, quand la décision est déjà prise et l'action déjà engagée. TrustalAI apporte la fiabilité au moment de la prédiction, avant la décision.

Pour un robot, la différence est concrète. Un tableau de bord qui signale les détections fantômes après le poste vous dit que le robot a déjà fait son écart. Un seuil global est un réglage. Un score de fiabilité est une réponse pour chaque détection. Nous comparons les deux approches dans le monitoring IA face à la fiabilité par prédiction.

Résultats mesurés avec TrustalAI Vision

TrustalAI Vision ajoute la couche de fiabilité aux modèles de computer vision.

• 80 % d'erreurs en moins sur la position et l'orientation

• 92 % de faux positifs en moins

• 20 ms de latence sur CPU

• 8 ms de latence sur NVIDIA Jetson Orin

Tous les résultats sont mesurés en conditions opérationnelles réelles, face au modèle de référence de chaque produit.

Ce sont des métriques produit générales, pas des chiffres sur les reflets ou les doublons. Sur du calcul embarqué (edge), la latence compte : voir la fiabilité IA edge inférieur à 20 ms.

Questions fréquentes

Pourquoi un modèle de vision robotique détecte-t-il des objets qui n'existent pas ?

Des reflets peuvent montrer à une caméra ou à un LiDAR une seconde copie d'un objet réel (Yang et al., 2019 ; Damodaran et al., 2023). Un seul seuil de recouvrement peut laisser des boîtes en double autour d'un même objet (Liu et al., 2019). Des images éloignées des données d'entraînement peuvent dégrader les détections (Michaelis et al., 2019). Dans tous les cas, le robot reçoit un score, pas une preuve.

Un score de confiance est-il la même chose que la fiabilité ?

Non. Un score de confiance est le nombre qu'un détecteur attache à sa propre sortie. Dans la conception YOLO d'origine, il combine la probabilité qu'un objet soit présent et le recouvrement de la boîte (Redmon et al., 2016). La fiabilité par prédiction vient d'une couche indépendante, calculée pour chaque prédiction avant la décision.

Pourquoi mon détecteur renvoie-t-il deux boîtes pour un seul objet ?

Un détecteur propose en général plusieurs boîtes candidates par objet, et la suppression des non-maxima retire celles qui recouvrent trop la meilleure boîte. Un seuil bas peut supprimer de vrais objets, un seuil haut garde des doublons (Liu et al., 2019). Un même objet peut aussi apparaître sous deux étiquettes quand la suppression se fait classe par classe (documentation Ultralytics, 2026).

Pourquoi mon robot s'arrête-t-il devant un obstacle qui n'existe pas ?

Dans des expériences avec un robot mobile et un LiDAR 2D, des objets peuvent être cartographiés derrière la surface d'un miroir, et le robot peut s'y détecter lui-même (Damodaran et al., 2023). Un planificateur qui traite ces retours comme des obstacles pourrait s'arrêter ou faire un détour pour rien. Cette dernière étape est notre inférence.

Peut-on ajouter une couche de fiabilité à un modèle de perception robotique existant sans le réentraîner ?

Oui. TrustalAI est plug-and-play et fonctionne avec des modèles black-box. Il lit les prédictions de votre modèle en temps réel et calcule leur fiabilité, sans réentraînement et sans accès à votre propriété intellectuelle. La latence mesurée est de 8 ms sur NVIDIA Jetson Orin et de 20 ms sur CPU (TrustalAI Client Deck V10, 2026). Nous n'extrapolons pas ces chiffres à d'autres matériels.