Serge Chaumette,Professeur à l’université de Bordeaux/LaBRI (Laboratoire Bordelais de Recherche en Informatique, UMR CNRS 5800), responsable du parcours de Master ASPIC (Autonomous System, Perception Interaction & Control) et responsable des activités drones du LaBRI est également co-fondateur et directeur Innovation de la start-up Preditic qui travaille dans le domaine de la maintenance industrielle (prédictive) à l’aide de capteurs, de technologies de communication de proximité et d’IA lorsque cela a du sens. Il est également directeur scientifique d’IcarusSwarms.ai, qui se consacre à l’évaluation des systèmes anti-drones et aux applications militaires des essaims avec des produits déjà utilisés par les forces armées.  

Il nous livre son expertise sur l'impact de l'intelligence artificielle dans le domaine des drones, explorant comment cette technologie transforme l'avenir du vol autonome et de la précision des missions.  

L’IA et les drones 

En préambule, quand on parle d’IA et de drones, on se doit d’abord de dissocier les deux technologies pour mieux les traiter ensuite de manière holistique. En effet, l’IA apporte par elle-même un certain nombre de capacités uniques ; les drones offrent eux aussi un potentiel unique. C’est la combinaison de ces deux technologies (et de nombreuses autres) qui fait émerger la puissance fonctionnelle des drones telle qu’on la voit apparaître depuis quelques années. 

Comment l’intelligence artificielle améliore-t-elle l’autonomie et les capacités de décision des drones, aussi bien dans les applications civiles que militaires ?      

L’IA peut être utilisée à plusieurs niveau de la pile technologique qui constitue un système de drone. Elle peut aider à traiter des données en embarqué directement sur l’appareil mais aussi au sol, par exemple dans un C2 pour ce qui concerne le domaine militaire. Typiquement il s’agit d’analyser des captations (caméra classique, caméra thermique, nez chimique, etc.) afin d’aider à la tenue de situation et à la prise de décision. Ces décisions peuvent être prises in fine par/dans l’appareil lui-même, ce qui lui donne une certaine autonomie, ou par des opérateurs/décideurs.     

L’IA est ainsi un catalyseur des données captées dans l’environnement du drone. Elle offre une capacité d’analyse permettant d’éliminer la nécessité d’intervention humaine à certains niveaux du travail préparatoire à la prise de décision, donnant ainsi à l’appareil une certaine autonomie. Cependant il faut rester prudent. En effet, quand on parle d’autonomie, on pense souvent à des prises de décisions sans aucune intervention humaine (et on pense alors immédiatement au robot tueur, au drone tueur). Clairement nous n’en sommes pas à ce stade à la fois pour des raisons techniques et éthiques.    

Quelles sont les principales limites et précautions à prendre dans l’usage de l’IA pour éviter les dérives, notamment en matière de sécurité et d’éthique ?  

L’IA n’offre pas de garantie de succès. Les résultats sont souvent probabilistes et par conséquent certains résultats issus d’un moteur d’IA peuvent être erronés. Pour être très concret, une IA de traitement d’images par exemple va pouvoir identifier un appareil civil comme étant un appareil militaire adverse faute de données d’apprentissage adaptées. On parle ici d’hallucination et on comprend clairement le risque de laisser au système le choix d’une décision potentiellement létale.  

Ceci rejoint la problématique de l’explicabilité de l’IA. Pour poursuivre sur notre exemple, l’IA va pouvoir différencier des types de véhicules en les classant dans différentes catégories, mais la raison du classement d’une image dans une catégorie ou une autre n’est pas expliquée. La confiance qu’on peut lui accorder est donc un enjeu clef.  

C’est pourquoi l’approche qui consiste à garder un homme dans la boucle (man in the loop) reste fondamentale et c’est celle qui est retenue par la plupart des pays. Une décision, si elle est impactante, doit être celle de l’homme et pas de la machine.  

Dans le domaine des drones (en particulier mais pas uniquement) la problématique de l’apprentissage qui est la base de la qualité du système résultant est donc un sujet délicat. En effet, cet apprentissage s’appuie sur l’analyse d’une très grande quantité de jeux de données. Or, ces jeux de données de taille significative n’existent pas toujours, pas encore, dans le domaine du drone.  

Enfin, alors que la capacité à télépiloter un drone permettait de rapprocher le décideur et les experts du théâtre d’opération, l’autonomie, d’une certaine façon, les en éloigne, ce qui peut être considéré comme un risque de déresponsabilisation en se déchargeant de la décision sur la machine.  

Pouvez-vous nous donner des exemples concrets de projets ou de recherches où l’IA a permis des avancées significatives dans le domaine des drones ?     

On constate aujourd’hui des avancées significatives qui portent sur les drones eux-mêmes et sur les missions qu’ils permettent d’accomplir. Si l’IA peut aider dans la conception des appareils, petits ou gros, c’est naturellement avant tout aux missions qu’elle permet de réaliser que l’on pense en priorité. Cela se concrétise par des briques technologiques embarquées (gestion de la navigation, évitement d’obstacles, gestion intelligent de l’énergie, et.) et par des missions, toujours plus variées et plus complexes : détection de mines, recherche de personnes, exploration d’égouts, transport de matériel, etc.     

L’IA permet-elle d’envisager une collaboration plus fluide entre les drones et les opérateurs humains ? Quels sont les défis à relever pour optimiser cette interaction ?        

L’IA permet de décharger l’opérateur d’un certain nombre de procédures. Elle permet aussi d’éliminer une grande quantité d’informations non significatives. On parle par exemple dans le contexte de la surveillance de faux positifs. Ce qui est nouveau est, grâce à la combinaison drone/IA embarquée, la capacité à le faire en cours d’opération sans nécessiter d’interaction avec le sol et sans intervention humaine. Ainsi les informations qui remontent sont plus pertinentes, moins nombreuses, et la charge mentale des opérateurs s’en trouve diminuée. 

Selon vous, quelles seront les grandes tendances et innovations de demain en matière de drones intelligents, et quel rôle la France peut-elle jouer dans ce développement ?         

Les essaims sont un enjeu fondamental. On le voit aujourd’hui en Ukraine et des salons récents (comme le SOFINS) s’en font clairement écho. Ces configurations apportent des capacités supplémentaires (on est dans le 1+1 mieux que 2) en combinant des appareils de taille, d’élongation, d’autonomie et des capteurs différents. De plus, être capable d’adapter dynamiquement la composition d’un essaim pour répondre aux besoins d’une opération sont un plus certain. Les flottes hétérogènes combinant drones aériens, robots terrestres et drones de surface, sont ainsi un des enjeux du futur.  

La capacité de déploiement tactique est aussi un besoin effectif. S’adapter au plus près et au plus vite à la problématique terrain est une nécessité opérationnelle. Ainsi le marché des drones de petite et moyenne taille (légers, peu coûteux, furtifs, etc.) s’est développé même si bien entendu les drones de type HALE et MALE ont tout leur sens dans le domaine militaire en particulier.       

La multiplicité des charges utiles est aussi fondamentale. L’époque où les appareils constituaient un différentiateur n’existe plus et on l’a d’ailleurs constaté au travers de la consolidation du marché. De plus les fabricants de drones ne vont plus sur les salons drones où les dronistes parlent aux dronistes, ils vont sur des salons professionnels (agriculture, surveillance, militaires, etc.). L’UAV Show se distingue par son envergure et son expertise, son spectre large et sa localisation dans un territoire pionnier dans le domaine où le drone s’inscrit dans une tradition technologique forte et continue de se développer, tant dans les domaines militaires que civils.     

De manière évidente l’augmentation de la capacité de traitement des processeurs embarqués continuera à favoriser le développement de nouveaux systèmes (dans le domaine IA mais pas uniquement).  

Pour conclure, on peut dire que le drone est à la croisée des innovations technologiques, pas seulement de l’IA, il est le fruit de la convergence des progrès scientifiques et techniques. On pourrait ainsi parler de la quantique pour ce qui est des capteurs, de la navigation et de la sécurité des communications, des batteries et plus généralement de l’énergie, etc.