Une IA sûre et robuste
Chercheur CNRS, Sébastien Destercke est responsable de l’équipe Connaissances, Incertitudes, Données (CID) au sein d’Heudiasyc, une unité mixte UTC/CNRS. Il est également titulaire de la chaire industrielle Intelligence artificielle (IA) de confiance lancée début 2022.
Une chaire qui implique, outre l’UTC, The Sorbonne Center for Artificial Intelligence (SCAI), le CNRS et Sopra Steria, mécène fondateur de la Fondation UTC pour l’innovation. Une chaire qui, à l’UTC, mobilise 2 laboratoires travaillant sur l’IA elle-même – l’équipe CID d’Heudiasyc et le LMAC dont une partie des travaux sont au coeur de l’IA – et 3 autres – Roberval, BMBI et Avenues – spécialisés dans des domaines où l’IA est appelée à jouer un rôle grandissant dans le futur. Heudiasyc étant, quant à lui, également concerné par les applications de l’IA.
L’arrivée de Sopra Steria en tant que partenaire de la chaire ? « Nos relations avec l’entreprise remontent à loin. Nous avons commencé à travailler sur l’intégration de l’IA dans les domaines au sein des préoccupations de Sopra Steria tels que l’immobilier, les ressources humaines ou le Banking dans le cadre de la Fondation universitaire, bien avant la création de la Fondation partenariale », relate Sébastien Destercke.
Cette collaboration fructueuse va prendre un tour nouveau avec la mise en place de la chaire IA de confiance. Son objectif ? « Elle sera centrée sur des thématiques scientifiquement pertinentes tout en répondant à des besoins industriels dans le cadre de déploiement d’outils d’IA. Il s’agit de développer des systèmes d’intelligence artificielle qui soient à la fois sûrs et robustes. Des systèmes qui s’inscrivent dans la problématique plus large de l’IA de confiance. En effet, l’industriel doit avoir confiance dans l’outil qu’il va déployer », précise-t-il.
Qu’entend-on par « systèmes robustes » ? « Une analogie parlante est celle de l’avion dans lequel on monte non pas parce que l’on comprend tout de son fonctionnement, mais bien parce que l’on sait que le risque d’accident, d’erreur critique est très faible. Or, le critère de robustesse constitue un aspect décisif dans nombre d’applications industrielles et particulièrement dans les systèmes d’IA. Leur robustesse se mesure à leur capacité à s’adapter, sans perdre en qualité, aux changements des conditions de déploiement comme aux changements d’environnement », explique-t-il.
Et la sûreté des systèmes alors ? « C’est le deuxième critère indispensable à une IA de confiance. Il s’agit de pouvoir quantifier l’incertitude associée aux prédictions du système. Le but est que le système puisse quantifier sa propre confiance dans ses prédictions. Si je dis que je suis à 90 % sûr qu’une prédiction donnée est juste, j’aimerais qu’elle soit juste 90 % du temps. C’est donc cet aspect de “sûreté” que l’on veillera à garantir », souligne Sébastien Destercke. La durée de cette chaire ? « Il s’agit d’un projet ambitieux principalement financé par la fondation UTC pour l’innovation et ses membres, avec des moyens humains mis à disposition par l’ensemble des partenaires pour une durée de 5 ans », conclut-il.
FONDATION UTC POUR L’INNOVATION
Créée fin 2018, la Fondation UTC pour l’innovation est portée par Saint-Gobain, l’université et l’association des diplômés UTC Alumni. Patrick Dupin, directeur général adjoint de Saint-Gobain, est président du conseil d’administration.
L’idée de la création de la Fondation ? « Une fondation partenariale est, à la différence d’une fondation d’entreprise, portée par un établissement public. Cela permet à l’UTC d’instaurer une alliance institutionnelle forte avec certains partenaires industriels. D’autant que les liens avec le monde économique, en particulier l’industrie sont inscrits dans l’ADN de l’UTC depuis sa création en 1972 », explique Sylvie Lemonnier- Morel, secrétaire générale de la Fondation.
Parmi les objectifs de la Fondation ? « Il s’agit d’accompagner l’UTC et son écosystème dans des projets d’innovation qui font sens dans le monde de demain ; de favoriser l’entrepreneuriat auprès des étudiants et des Alumni ainsi que l’esprit d’initiative ; enfin accompagner les étudiants les plus méritants et les plus entreprenants mais parfois aussi les plus fragiles socialement dans leur parcours afin d’élever leurs chances de succès », détaille Patrick Dupin.
La vision de son rôle en tant que président ? « C’est de soutenir notre équipe dans la réalisation de ces objectifs, et que nous n’en déviions pas – que ce soit dans l’esprit ou dans le fond. Je m’assure également du parfait alignement des fondateurs, de l’UTC, et de nos partenaires industriels », conclut-il.