L’IA est présente dans de nombreux systèmes, dont l’interaction avec l’humain est indispensable. Elle devient un élément agissant et fait ainsi de l’équipe un groupe multi-agents, avec une interdépendance forte et une connaissance mutuelle des modes de fonctionnement des membres, synonymes d’efficacité et de performance. Dans ce cadre l’opérateur s’appuiera sur le système d’IA à condition qu’il soit certain que les informations fournies soient fiables. En cas de manque d’acceptabilité, il existe un risque de contournement du système par l’humain. Inversement, une sur-confiance de l’humain envers l’IA peut aussi mettre en danger l’équipe.
Objectif
L’objectif de la chaire NAIADE est de doter le marin de moyens performants pour limiter sa charge cognitive et lui permettre de se concentrer sur la prise de décision dans un environnement naval complexe. L’ambition des recherches menées est d’améliorer la performance du couple marin-système IA en proposant des solutions de modélisations des interactions entre les marins et les outils techniques d’IA d’aide à la prise de décision. Dans ce cadre, le système d’IA est considéré comme un agent actif en interaction avec un humain ou un autre système d’IA.
Rôle de l'école
Dans le cadre de ses activités de recherche IMT Atlantique mène des travaux algorithmiques et méthodologiques afin de faciliter la prise de décision, abordée à travers le triptyque données – information – décision. Son action s’inscrit dans une démarche de renforcement des activités de recherche dans les domaines de l’intelligence artificielle, l’aide à la décision et la science des données, examinant leur élargissement au domaine du monde naval.
Résultats attendus
Dans l’objectif d’étudier le système d’IA comme exécutant d’une tâche initialement dévolue à l’opérateur, l’approche appliquée comportera la définition de : modèles d’évaluation de l’IA, une aide à la décision adaptative, modèles de qualification et quantification de l’explicabilité, la caractérisation de la charge mentale d’un opérateur et l’adaptation de l’IA pour faciliter la tâche de l’opérateur. En outre, afin d’analyser le système d’intelligence artificielle comme agent du système sociotechnique, les travaux s’intéresseront à l’étude du système sociotechnique formé par les deux types d’agents, humains et IA, notamment : caractériser l’impact des interactions humain-IA sur le management de la décision, définir des interfaces humain-machine adaptées, mesurer l’efficacité des différentes configurations des équipes mixtes formées avec l’IA, intégrer à l’IA la possibilité de repérer la charge cognitive de l’opérateur et prédire la performance humain-IA.
Les partenaires
Dans le cadre de ses activités de recherche, l’Ecole navale mène des travaux sur les transformations des usages qu’amènent les systèmes agis par l’IA au sein de la Marine nationale, tant en ce qui concerne l’organisation, la nature des activités, les interactions homme/système, les nouvelles compétences développées. Ces travaux font le lien entre la conception et l’utilisation des systèmes agis par l’IA.
Naval Group : Maître d’œuvre industriel, concepteur et intégrateur d’ensemble des navires armés et des systèmes de combat, Naval Group est un acteur international du naval de défense, partenaire des États dans la maîtrise de leur souveraineté maritime. Grâce à des savoir-faire et des moyens industriels exceptionnels, il conçoit, réalise, intègre, maintient en service, démantèle et déconstruit des sous-marins et navires de surface.
Thales : acteur majeur sur les secteurs de l’aéronautique, du spatial, de la défense et de la sécurité cherche à monter en compétences sur l’application au domaine naval de systèmes fondés sur l’intelligence artificielle et la prise en compte des spécificités le leur utilisation dans un environnement maritime et par des marins.