Le risque de la Physical AI à anticiper.
Une étude publiée en 2025 portant sur 303 accidents liés aux interactions homme-robot met notamment en évidence les activations inattendues et les erreurs de capteurs. Avec l’arrivée de la Physical AI, les erreurs de l’intelligence artificielle quittent progressivement les écrans pour entrer dans le monde physique.
Pendant plusieurs années, nous nous sommes habitués aux erreurs de l’intelligence artificielle.
Un chatbot invente une information. Un générateur d’images produit une anomalie. Un modèle interprète mal un document.
Dans la plupart des cas, l’erreur reste numérique.
Avec la Physical AI, cette situation change radicalement.
Lorsqu’une intelligence artificielle pilote un bras robotique, un robot mobile ou demain un humanoïde, une mauvaise interprétation de son environnement peut déclencher une véritable action physique.
Et une erreur de quelques centimètres peut avoir des conséquences autrement plus importantes qu’une hallucination de ChatGPT.
303 accidents analysés
Une étude publiée en 2025 dans la revue scientifique Safety Science a analysé 303 rapports d’accidents concernant les interactions entre humains et robots.
Les chercheurs ont identifié sept grandes catégories d’incidents.
Deux phénomènes ressortent particulièrement : les activations inattendues des robots et les erreurs provenant des capteurs.
C’est précisément l’un des problèmes auxquels devra répondre la Physical AI.
Un robot doit percevoir son environnement avant d’agir.
Caméras, capteurs de proximité, systèmes de vision, données contextuelles et modèles d’intelligence artificielle deviennent ses yeux et, dans une certaine mesure, son système de décision.
Mais que se passe-t-il lorsque cette perception est incorrecte ?
Une mauvaise décision devient un mouvement
Prenons un scénario extrêmement simple.
Un robot équipé d’une caméra doit identifier une caisse et la déplacer.
Son système de vision interprète mal la scène.
Le logiciel décide malgré tout que l’objet identifié est le bon.
Dans un système informatique classique, cette erreur pourrait produire une mauvaise donnée.
Dans un robot, elle produit potentiellement un mouvement physique incorrect.
Et si un opérateur se trouve sur la trajectoire, l’erreur algorithmique devient un problème de sécurité.
Avec la Physical AI, une erreur de l’intelligence
artificielle ne produit plus seulement une mauvaise
réponse. Elle peut produire un mouvement
physique.
Les accidents sont déjà une réalité
Les données américaines permettent de mesurer concrètement ce risque.
Dans son rapport sur les accidents professionnels dans l’industrie manufacturière, l’OSHA américaine a identifié 550 incidents impliquant des robots.
Dans 33 % des cas, les victimes ont été prises en charge aux urgences et 2 % des incidents ont nécessité une hospitalisation.
Les blessures recensées comprennent notamment coupures, contusions et fractures.
La maintenance et le nettoyage des robots apparaissent également comme des situations particulièrement sensibles.
Ces accidents ne peuvent évidemment pas tous être attribués à l’intelligence artificielle.
C’est une distinction essentielle.
Ils montrent cependant ce qui se produit lorsque des humains et des machines capables de mouvements puissants partagent le même environnement.
La Physical AI ajoute désormais une nouvelle variable : l’autonomie de décision de la machine.
Du bug informatique au risque physique
C’est probablement l’un des changements majeurs que l’industrie robotique devra intégrer dans les prochaines années.
Un logiciel classique suit une logique relativement déterministe.
Les nouvelles générations de robots pourront davantage interpréter leur environnement, adapter leurs actions et prendre certaines décisions en temps réel.
Cette capacité constitue précisément leur intérêt.
Mais elle crée aussi un nouveau problème.
Comment garantir la sécurité d’une machine dont toutes les décisions ne peuvent plus être prévues à l’avance ?
La question devient encore plus importante avec les robots humanoïdes.
Contrairement aux robots industriels historiquement installés derrière des barrières de sécurité, les humanoïdes sont précisément conçus pour évoluer dans des environnements créés pour les humains.
- Usines
- Entrepôts
- Hôpitaux
- Commerces
- Et potentiellement, demain, nos maisons
L’erreur du robot devient un nouveau KPI
Jusqu’à présent, les industriels mesuraient principalement la disponibilité, la productivité, les pannes ou les accidents.
La Physical AI pourrait imposer un nouvel indicateur :
le nombre de mauvaises décisions prises par le robot avant qu’elles ne provoquent un incident.
Un robot qui fonctionne pendant 1 000 heures sans accident peut sembler extrêmement fiable.
Mais si un opérateur a dû intervenir 30 fois pour empêcher une mauvaise action, l’évaluation du risque devient très différente.
Ces « quasi-accidents » pourraient devenir une donnée essentielle pour mesurer la véritable fiabilité des robots autonomes.
Les accidents nous disent ce qui s’est mal
passé. Les quasi-accidents pourraient nous
montrer ce qui risque de mal se passer
demain.
Des chiffres encore insuffisants pour anticiper le risque
Le problème est que les organisations ne disposent pas encore d’un langage commun pour mesurer ces situations.
Un arrêt d’urgence, une trajectoire corrigée par un opérateur, une détection erronée ou une collision évitée de quelques centimètres ne sont pas toujours enregistrés de la même manière.
Pourtant, ces événements pourraient constituer les signaux les plus utiles avant un accident.
À titre d’exemple, un robot affichant zéro accident sur 1 000 heures de fonctionnement ne présente pas le même niveau de risque selon qu’il a généré zéro, 10 ou 30 interventions humaines pour éviter une action dangereuse.
La prochaine génération d’indicateurs devra donc probablement distinguer :
- Les accidents avec blessure
- Les dommages matériels
- Les arrêts d’urgence
- Les erreurs de perception
- Les activations inattendues
- Les interventions humaines préventives
- Les quasi-accidents sans conséquence
Sans cette granularité, les entreprises risquent de sous-estimer le danger réel de systèmes qui semblent fonctionner correctement.
La prochaine bataille de la Physical AI sera peut-être celle de la confiance
Les performances des robots progressent rapidement.
Mais pour que des millions de machines autonomes puissent travailler quotidiennement à proximité des humains, leur intelligence ne devra pas seulement être performante.
Elle devra être prévisible, contrôlable et capable d’échouer sans mettre les personnes en danger.
L’intelligence artificielle nous avait habitués à une nouvelle catégorie d’erreurs : les hallucinations.
La Physical AI nous confronte désormais à une question beaucoup plus concrète : que se passe-t-il lorsqu’une hallucination devient un mouvement ?
Anticiper avant le premier accident majeur
La question n’est plus de savoir si les robots autonomes commettront des erreurs.
Ils en commettront.
La question est de savoir si nous saurons détecter ces erreurs suffisamment tôt pour empêcher qu’elles ne deviennent des accidents.
Comment faut-il comptabiliser les quasi-accidents ? Quels seuils doivent déclencher un arrêt ou une réévaluation du système ? Comment tester un modèle d’IA dans des environnements physiques imprévisibles ? Qui doit être responsable lorsqu’une décision autonome provoque un dommage ?
Ces sujets concernent déjà les industriels, les intégrateurs robotiques, les responsables sécurité, les assureurs, les chercheurs et les régulateurs.
Chez Robot Magazine, nous souhaitons ouvrir cette réflexion avec les acteurs qui construisent, déploient et encadrent la Physical AI.
Si vous travaillez sur la sécurité des robots autonomes, la détection des quasi-accidents, la certification des systèmes d’IA embarqués ou la prévention des risques homme-robot, contactez-nous.
Ensemble, nous pouvons commencer à définir les méthodes, les indicateurs et les bonnes pratiques qui permettront d’anticiper ce futur problème avant qu’il ne devienne une crise.
FAQ – Physical AI et sécurité des robots autonomes
2. Pourquoi les erreurs d’IA deviennent-elles plus critiques avec la robotique ?
Dans un système numérique, une mauvaise interprétation produit généralement une information incorrecte. Dans un robot, la même erreur peut déclencher un mouvement physique : mauvaise trajectoire, manipulation du mauvais objet ou déplacement imprévu à proximité d'un opérateur.
3. Quels types d’incidents peuvent survenir lors des interactions homme-robot ?
Les incidents peuvent notamment concerner des activations inattendues, des erreurs de capteurs, des collisions, des mouvements incorrects ou des situations dangereuses pendant la maintenance et le nettoyage. Avec des robots plus autonomes, les erreurs de perception et de décision deviennent également des paramètres importants à surveiller.
4. Qu’est-ce qu’un quasi-accident en robotique ?
Un quasi-accident correspond à une situation dans laquelle une action potentiellement dangereuse n’a finalement provoqué ni blessure ni dommage, par exemple parce qu’un opérateur est intervenu, qu’un arrêt d’urgence a été déclenché ou qu’une collision a été évitée. Ces événements peuvent fournir des informations précieuses sur les risques avant qu’un véritable accident ne survienne.
5. Quels indicateurs faudrait-il surveiller avec les robots autonomes ?
Au-delà du nombre d’accidents, les industriels pourraient suivre les dommages matériels, arrêts d’urgence, erreurs de perception, activations inattendues, interventions humaines préventives et quasi-accidents. Ces données permettraient d’évaluer plus précisément la fiabilité réelle d’un système robotique.
6. Pourquoi les robots humanoïdes rendent-ils cette question particulièrement importante ?
Les humanoïdes sont conçus pour travailler dans des environnements initialement pensés pour les humains : usines, entrepôts, hôpitaux, commerces et potentiellement logements. Leur proximité avec les personnes augmente donc l’importance de systèmes capables de détecter les erreurs et d’échouer de manière sûre.
7. Quel sera le principal défi de sécurité de la Physical AI ?
L’enjeu sera de rendre les robots autonomes non seulement performants, mais également prévisibles, contrôlables et sûrs lorsqu’ils commettent une erreur. L’industrie devra notamment développer de meilleurs indicateurs de quasi-accidents et des méthodes permettant d’évaluer les décisions des robots avant qu’une erreur ne se transforme en accident.
