Avec True AI, Thales définit une charte pour le développement de l’intelligence artificielle

De plus en plus présente dans tous les secteurs d’activité, l’intelligence artificielle (IA) est également au cœur des préoccupations sécuritaires de bon nombre de personnes. À l’occasion du Salon du Bourget, Thales a annoncé sa charte True AI pour assurer le développement d’une IA qui garde la confiance de ses clients et de ses utilisateurs. Cette approche n’est pas réservée à l’aéronautique, l’industrie ou le secteur militaire, elle s’applique tout autant au secteur bancaire. Pour Marko Ermann, directeur technique de Thalès, l’IA se définit par quatre capacités : percevoir son environnement, apprendre, comprendre et nommer, décider. Il rappelle que « l’IA, c’est des mathématiques, pas un être biologique. Nous voulons que nos clients comprennent comment elles fonctionnent, et être transparents sur les données. » Pour cela, la charte True AI s’appuie sur trois piliers (transparence, compréhension et éthique) tout en tenant compte à tout moment de l’impact environnemental de l’IA et notamment la consommation électrique qu’elle entraîne. Concernant la transparence, l’adage GIGO (Garbage In, Garbage Out) s’applique particulièrement à l’intelligence artificielle. Si la qualité des données d’entrée n’est pas bonne, les résultats seront faussés. Pire, des biais pourraient être induits dans le comportement de l’IA. Thales veut s’engager à ce que ses clients en comprennent le fonctionnement, et à être transparent sur la qualité des données (notamment en les certifiant). Pour la compréhension, Marko Ermann estime que l’IA doit être explicable. Pour cela il envisage deux pistes possibles : encadrer l’apprentissage profond (souvent vu comme une « boîte noire ») par des algorithmes contextuels qui ont des règles et définissent un « squelette sémantique » pour échapper à une approche purement probabiliste, ou trouver d’autres classes d’algorithmes que ceux fondés sur le deep learning, dont le fonctionnement est plus facilement appréhendable, pour faire les mêmes tâches. Enfin pour la partie « éthique », Marko Ermann rappelle que le mot « intelligence » dans l’expression « intelligence artificielle » est un piège sémantique. L’intelligence n’est pas dans les moteurs de calculs, mais dans ce que les humains y mettent en termes de programmation et de données. C’est à eux d’assurer la partie éthique en s’assurant de respecter lois et conventions internationales, y compris le RGPD, à toutes les étapes. Côté impact environnemental, même si l’IA est particulièrement gourmande dans ce domaine, aussi bien pour le stockage des données qu’elle sollicite que pour le simple fonctionnement des algorithmes, Thales s’engage à privilégier à résultats égaux les algorithmes les moins gourmands et à faire le choix du Smart Data plutôt que celui du Big Data. Marko Ermann reconnaît par ailleurs qu’il faudra augmenter la diversité dans les équipes de développement de Thalès pour éviter que les biais cognitifs ne s’accumulent dans les IA, mais il déplore le manque de diversité à la sortie des écoles d’informatique. Comme la charte True AI s’appliquera désormais à l’ensemble des offres Thalès impliquant l’IA, elle concernera également les activités de Gemalto et la cybersécurité, deux domaines où Thales collabore activement avec le secteur financier.