Comprendre comment l’humain et l’intelligence artificielle pourront collaborer

Sur la base aérienne de Salon-de-Provence, le laboratoire de neuroscience de l’ONERA étudie notamment les scénarios de combat collaboratif entre les drones et un aéronef piloté. On pense immédiatement au SCAF et plus largement à l’arrivée sur le champ de bataille de l’intelligence artificielle. Mais pour l’heure il n’est encore question que d’hélicoptères d’attaque.

Il y a ceux qui font des conférences sur le sujet, ceux qui en ont peur, ceux qui en rêvent. L’intelligence artificielle est omniprésente dans les conversations. La série britannique Black Mirror est la source d’inquiétude de la plupart. Et puis il y a ceux qui ont pour mission de préparer sa montée en puissance en cherchant à comprendre ce qu’elle va changer pour les êtres humains. Une nécessité quasi vitale avant de lui donner les clés du camion. Ceux-là sont plus discrets, surtout quand ils évoluent dans la sphère militaire. C’est le cas d’un petit groupe de chercheurs de l’ONERA, spécialisés dans la neuroscience et ses applications à l’aéronautique.

La Direction générale de l’armement (DGA) a demandé à ces chercheurs de creuser le sujet de la collaboration entre des véhicules habités (avions ou hélicoptères), des êtres humains (pilotes) et des véhicules non habités (drones) dotés d’une certaine forme d’autonomie.

Prendre des décisions collaboratives avec des agents artificiels, atteindre des buts avec des agents artificiels. Il s’agit en premier lieu d’essayer d’évaluer l’impact de l’évolution de ces systèmes sur les opérateurs amenés à prendre des décisions collaboratives avec des agents artificiels.

Les chercheurs semblent convaincus que ces systèmes vont très rapidement avoir des performances adéquates pour faire ce type de tâche. Toutefois, ils reconnaissent aussi qu’ils peinent encore aujourd’hui à comprendre comment ces systèmes vont communiquer avec les êtres humains et comment cette communication va pouvoir supporter ce besoin en coopération entre des agents humains et des agents artificiels.

L’Agence de l’innovation de défense (AID) qui dépend de la DGA finance un projet qui porte sur la problématique de la coopération entre un drone et un hélicoptère, plus spécifiquement sur la capacité pour un équipage d’hélicoptère de contrôler et de coopérer avec des drones dotés d’une certaine forme d’autonomie. La finalité de cette étude est de fournir une méthodologie.

Il apparait que l’une des limites est la capacité de l’équipage de l’hélicoptère qui va devoir assurer sa propre mission et la sécurité de son hélicoptère mais aussi de contrôler les drones qui sont dans sa disposition. Le postulat de départ que le système est contrôlé par un des membres d’équipage et pas un membre supplémentaire. Deux équipes de chercheurs de l’ONERA travaillent sur ce projet. L’un s’intéresse au facteur humain et l’autre à l’autonomie décisionnelle.

Le recours à l’intelligence artificielle pose non seulement la question de la coopération, mais aussi celle de la communication. Des lors que des systèmes très performants sont appelés à assister l’être humain dans sa tâche, il convient de cerner la nature de la communication du système vers l’humain, voire de l’humain vers le système. Ce n’est évidemment pas une problématique nouvelle. Mais avec l’intelligence artificielle dans la boucle, elle prend une dimension nouvelle.

Les chercheurs de l’ONEAR rappellent que déjà, dans les années 90, le problème n’était pas alors l’automatisation, ou la sur-automatisation, mais la faiblesse des feedback renvoyés par le système vers l’opérateur humain. La communication est essentielle, bien au-delà de la communication verbale. Elle permet de comprendre ce qu’attends le partenaire humain. Avec l’intelligence artificielle c’est encore plus complexe reconnaissent-ils.

Le langage humain n’est évidemment pas le seul envisageable. Le format visuel est déjà ultra chargé au sein du cockpit. Il y a aussi les formats optique ou vocal. Mais, au-delà des différents formats envisageables, la question prioritaire est celle de la nature de l’info qui doit être transmise, insistent les chercheurs de l’ONERA. Il faut identifier l’info minimale pour comprendre les intentions de l’autre, comme dans la communication entre humains.

Quelle est la bonne info, à quel moment la transmettre, sous quelle forme ?

Dans un laboratoire de recherche de l’ONERA, sur la base aérienne de Salon-de-Provence, des chercheurs se projettent déjà sur le champ de bataille du futur. Leurs travaux seront précieux pour ceux qui auront la charge de concevoir le système de combat aérien du futur, autrement dit du SCAF.