David Sadek (Thales) : "L’IA doit faire exactement ce qu’on attend d’elle. Ni plus, ni moins"

David Sadek (Thales) : "L’IA doit faire exactement ce qu’on attend d’elle. Ni plus, ni moins"
David Sadek, vice-président recherche, technologie & innovation chez Thales

Le géant français Thales, groupe d'électronique spécialisé dans l'aéronautique, le spatial, la défense, la sécurité, l’identité numérique et le transport terrestre s’illustre également par sa stratégie R&D, dont l’autofinancement dépasse le milliard d’euros par an. David Sadek, vice-président recherche, technologie & innovation chez Thales, en charge des algorithmes, de l’intelligence artificielle et du traitement de l’information, présente l’initiative Thales TrUE AI, ainsi que la démarche d’industrialisation de l’IA, en particulier par le biais du programme national Confiance.ai.

Décideurs. Sous différentes lumières, votre parcours chez Orange, à l’IMT, et votre présidence d’un des comités d’évaluation scientifique de l’ANR, vous ont permis d’appréhender l’ensemble de la chaîne de l’innovation, de la recherche jusqu’au client final. Au regard de ces expériences, quelles sont vos forces pour guider la recherche et l’innovation chez Thales ?

David Sadek. Pendant vingt ans au cœur de la R&D d’Orange, j’ai été aux premières loges de l’innovation autour de l’IA et des systèmes de dialogue intelligents. Puis, au sein de l’IMT (Institut Mines-Télécom) et à travers mon implication dans France IA – la stratégie nationale sur l’Intelligence Artificielle, j’ai eu l’occasion de pratiquer l’univers de la recherche publique, ainsi que ses politiques nationales et européennes. Cette double culture managériale est aussi enrichie par mon expérience de jurys de sélection de projets, et notamment de celle du comité d’évaluation du programme "Contenus numériques & interactions" de l’ANR (Agence nationale de la recherche). Chaque année, ce comité d’une trentaine de personnes devait classer en trois jours jusqu’à 150 soumissions de projets. Avec une méthodologie pratiquement algorithmique, nous devions pondérer différents critères afin de pouvoir étayer un consensus final.

Le pilotage de l’innovation s’orchestre conjointement entre deux critères : l’excellence d’un projet, mais également sa pertinence par rapport au marché. Or, chez Thales, de nombreux domaines d’activité, notamment ceux liés à la défense, s’inscrivent dans des tendances aussi lourdes que longues. Dans ces secteurs régulés à l’extrême, il m’incombe aussi de détecter les signaux faibles et les perspectives de rupture afin de laisser mûrir des innovations, ou d’élaguer les projets non prometteurs. Et, quelques années plus tard de confronter la pertinence de cette sélection aux besoins du marché.

En matière d’intelligence artificielle, quelle feuille de route avez-vous suivi ?

Dans la stratégie numérique de Thales, l’IA constitue l’un des quatre piliers technologiques, tout en s’articulant avec les trois autres : le Big Data, l’IoT ("Internet of Things") et la connectivité, et la cybersécurité. Concrètement, les technologies d’IA pénètrent progressivement tout l’univers du numérique. Parce que nos logiciels, tel que le FMS ("Flight management system"), sont conçus pour des situations où la vie humaine est en jeu, notre IA embarquée ne pourra tolérer aucune erreur. Dans ces systèmes critiques, l’IA doit faire exactement ce qu’on attend d’elle. Ni plus, ni moins. D’où notre stratégie d’IA de confiance, synthétisée par le moto "Thales TrUE AI" (en anglais, "Transparent ", "Understandable" et "Ethical"), dont l’optique est d’assurer traçabilité, intelligibilité et éthique dans nos solutions d’intelligence artificielle.

"Quatre grands défis technologiques formalisent cette IA de Confiance : la validité, l’explicabilité, la sécurité et la responsabilité des systèmes"

Quatre propriétés, autrement dit quatre grands défis technologiques, formalisent cette IA de confiance : la validité, l’explicabilité, la sécurité et la responsabilité des systèmes. En premier lieu, complétude et consistance des algorithmes déterminent la validité des systèmes. Puis, lors d’interactions avec l’humain, une recommandation à un pilote par exemple, l’IA doit savoir non seulement se justifier en temps réel, mais également communiquer dans des délais et un langage adéquats au contexte, en tenant compte par exemple du niveau de stress et de la charge cognitive perçus de l’interlocuteur. La validité des systèmes est une garantie de leur sûreté de fonctionnement. La sécurité des algorithmes est leur résistance et capacité de résilience à toute forme de malveillance et notamment à des cyber-attaques telles que des leurres, dont les effets peuvent être délétères. Enfin, la responsabilité des systèmes se traduit par la conformité de l’IA, dès son processus de conception, à des cadres exogènes, légaux ou régulatoires, ou à des principes éthiques, tels que la détection de biais dans les corpus d’apprentissage, ou encore dans le fait de privilégier une certaine frugalité dans la quantité de données utilisées ou dans l’énergie consommée.

Au sein de cette notion d’éthique intégrée à l’IA, Thales distingue une composante environnementale. Comment les initiatives "Green AI" et "AI for Green" se déclinent-elles au sein du groupe ?

En raison de contraintes dites de SWaP ("Size, Weight and Power") pour l’IA embarquée, au sein d’un cockpit d’avion par exemple, nous sommes amenés à nous conformer à des limites énergétiques. Notre initiative "AI for Green" reflète notre volonté de créer des solutions toujours plus respectueuses de l’environnement. Si chacun sait que l’IA permet d’optimiser le séquencement des avions dans la phase d’approche d’un aéroport, afin de réduire le temps d’attente en vol et par là-même la consommation de carburant, nous travaillons également à son application pour optimiser les trajectoires en vol. L’accumulation de trainées humides, ces sillons de nuage caractéristiques et visibles à l’œil nu, contribue à l’effet de serre. Des analyses sur ce sujet tendent à montrer qu’un accroissement de quelques pourcents de la consommation de carburant, afin d’adapter une trajectoire de vol, permettrait une réduction de 50 % des traînées humides.

En parallèle à cet impact environnemental allégé, l’IA, en tant que technologie numérique, reste elle-même consommatrice d’énergie et productrice d’une empreinte carbone non négligeable. Pour cette raison, Thales travaille également à rendre l’IA plus verte, avec l’initiative "Green AI". Guidé par notre charte éthique du numérique, un impératif de frugalité énergétique est pris en considération dès le lancement des projets, lorsque nous évaluons par exemple les ressources de calcul requises. De même, dans l’esprit du Smart Data plutôt que du Big Data, nous développons des approches dites d’apprentissage frugal, à savoir des techniques et algorithmes d’IA utilisant aussi peu de données que possible.

Chiffres à l’appui, nous respectons notre cadre éthique et en présentons le bien-fondé à nos clients et partenaires, chez qui nous recherchons des compatibilités de principes, vers des bénéfices et des impacts environnementaux les plus positifs qui soient en matière de digital et d’IA.

Quelles sont vos priorités dans la mise en œuvre de cette IA de confiance ?

Non seulement chez Thales, mais dans l’ensemble de l’industrie française – voire européenne, nous voulons industrialiser le processus de mise en œuvre de solutions opérationnelles à base d’IA. Dans le cadre du Grand Défi National "Sécuriser, certifier et fiabiliser les systèmes fondés sur l’intelligence artificielle", Thales est particulièrement fier de présider le comité de direction du programme Confiance.ai. Créé en 2020, ce programme réunit neuf grands industriels du Cac 40, parmi lesquels Airbus, Air Liquide et Sopra Steria, ainsi que des instituts de recherche tels que le CEA (Commissariat à l'énergie atomique) et l’Inria, et deux IRT (Instituts de Recherche Technologique) : SystemX à Saclay et Saint-Exupéry à Toulouse. Plus récemment, le programme s’est adjoint également une constellation de start-up prometteuses du monde de l’IA.

"Unique en son genre, Confiance.ai est le seul programme d’envergure nationale à vocation industrielle"

Unique en son genre, Confiance.ai est le seul programme d’envergure nationale à vocation industrielle. En alignement avec les feuilles de route des industriels qui le composent, il a pour but de développer une ingénierie de l’IA de confiance en fournissant les outils, méthodes et processus pour soutenir son intégration dans des solutions opérationnelles. Cette industrialisation de l’IA devra permettre une plus grande fluidité sur l’ensemble de sa chaîne d’ingénierie et une marche plus rapide vers un horizon où les industriels français deviendraient, dans leurs secteurs respectifs, les champions du AI to business.

Propos recueillis par Alexandra Bui

Vous avez apprécié cet article ? Likez Magazine Décideurs sur Facebook !

retrouvez l'intégralité du dossier Guide Innovation, Technologies & Propriété intellectuelle 2022

Retrouvez l'intégralité de notre guide Innovation, Technologies et propriété intellectuelle 2022 : interviews, portraits, classements et chroniques d'experts.
Sommaire
Nicomatic : focus sur une entreprise libérée

Nicomatic : focus sur une entreprise libérée

Le fabricant haut-savoyard de connecteurs Nicomatic est un exemple concret d'entreprise libérée en France. Olivier Nicollin, actuel PDG de cette entre...

Maison Henriot, chai d’œuvre

Maison Henriot, chai d’œuvre

Depuis plus de deux siècles, la maison Henriot cultive sa passion de la vigne et sa fierté du produit. Plus soucieuse de qualité que de volumes, elle...

Oui, le salaire des PDG du CAC 40 dépend (un peu) du climat

Oui, le salaire des PDG du CAC 40 dépend (un peu) du climat

Lors de la campagne présidentielle, Emmanuel Macron a promis d’inciter les grands groupes à davantage lier la rémunération de leurs dirigeants à des c...

Advens, success story de la cybersécurité française

Advens, success story de la cybersécurité française

Alexandre Fayeulle président et fondateur d’Advens, success story française dans l’univers de la cybersécurité, revient sur ses initiatives RSE et la...

Nathaniel Scher : "La réalité virtuelle et le métavers auront une incidence considérable en santé"

Nathaniel Scher : "La réalité virtuelle et le métavers auront une incidence considérable en santé"

Alors que les nouvelles technologies s’invitent plus que jamais dans le secteur de la santé, la médecine intégrative fait de plus en plus d’adeptes. D...

Leonardo Del Vecchio, décès d'un visionnaire

Leonardo Del Vecchio, décès d'un visionnaire

Le milliardaire italien, président du conseil d’administration d’EssilorLuxottica s’est éteint à Milan à l’âge de 87 ans. Retour sur la success story...

Zhong Shanshan, l’empereur de l’eau minérale

Zhong Shanshan, l’empereur de l’eau minérale

Première fortune chinoise, Zhong Shanshan est le patron à la fois du géant de l’eau en bouteille Nongfu Spring et de l’entreprise pharmaceutique Beiji...

Safran devance Stellantis de justesse en nombre de brevets

Safran devance Stellantis de justesse en nombre de brevets

L’INPI (Institut national de la propriété industrielle) dévoile son palmarès 2021 des déposants de brevets. Cette année encore, cette compilation soul...

Lire plus d'actualités

Newsletter savoir pour agir

N'avancez plus à l'aveugle

Ne plus afficher ce message