Pour créer la confiance dans l’IA, il faut de la transparence

Share this post:

Avec l’intelligence artificielle (IA), vous améliorez votre service à la clientèle, vous développez de nouveaux produits et vous réduisez vos coûts. Et vous utilisez peut-être aussi l’IA pour booster vos bénéfices tout en réduisant vos risques. Et pourtant, de nombreuses entreprises sont encore réticentes. Pourquoi cette méfiance ? Parce qu’elles ne font pas toujours confiance à ces nouveaux systèmes. Qu’advient-il de leurs précieuses données ? Est-ce suffisamment sûr et éthique ?

Le succès de l’IA dépend de sa transparence et de sa crédibilité. Et c’est pourquoi IBM a organisé une table ronde sur ce thème réunissant Ferdinand Casier (Agoria), Jonathan Berte (Robovision), Wouter Denayer (IBM Belgique), Tias Guns (VUB) et Nathanael Ackerman (AI4Belgium) lors du Think Summit Bruxelles du 11 octobre 2019, avec pour but de rendre l’AI plus accessible aux entreprises et aux citoyens.

La transparence est importante

L’IA s’adapte à tous les secteurs : c’est ce qui est clairement ressorti de cette table ronde. De nombreuses entreprises ont déjà lancé des projets. Ils explorent ce que ça peut leur apporter et testent le passage de la théorie à la réalité. Il ne s’agit bien sûr pas de l’IA comme nous la voyons dans les films de science-fiction, nous en sommes encore loin, mais bien de l’IA qui améliore et simplifie les process business. Les entreprises alimentent les systèmes d’IA en données pour former et tester ces systèmes de manière intensive.

Et cela implique forcément qu’il y ait de la confiance. Car il faut être capable d’expliquer dans les moindres détails ce que fait votre système d’IA. Ce n’est qu’à ce moment-là que vous saurez si les résultats sont fiables. C’est ce que vous faites depuis le début ? C’est le signe que vous avez choisi le bon cap. Et il est tout aussi important que chacun dans votre organisation comprenne ce qui est éthiquement responsable.

Comment atteindre cet objectif ? En organisant des workshops, pour que tous vos collaborateurs soient informés de vos principes éthiques. Mais vous devrez aller encore plus loin.

Repérer et éliminer les biais

Votre organisation utilise des données et l’IA ? Vous devez dès lors aborder tout cela de manière réfléchie. Vous devez savoir pourquoi le système intelligent va proposer une décision précise. Et vous ne pouvez pas suivre aveuglément cette décision. L’idéal, c’est que l’humain et la machine travaillent ensemble : L’IA conseille, l’humain garde le contrôle et la responsabilité. Il est dons bien question avec l’IA de systèmes qui aident les personnes, et pas de systèmes indépendants qui résolvent tout. Dans ce contexte, l’utilisation correcte des données est essentielle.

Et c’est pourquoi IBM a développé plusieurs outils capables de détecter les biais. C’est par exemple le cas du système « AI OpenScale », qui explique comment fonctionne le modèle de décision de l’algorithme.

Nos développeurs en IA apprennent en outre comment éviter que leurs propres biais déteignent sur le système. Et ils trouveront dans le Everyday AI Ethics Guide de nombreuses questions éthiques qu’ils doivent se poser.

IA et autorités publiques

Les autorités publiques disposent d’une quantité énorme de données. Et elles peuvent donc jouer un rôle très important pour l’IA. Ces autorités donnent-t-elles le bon exemple ? Alors l’IA permettra aux services publics d’être meilleurs, plus rapides et moins chers. Les autorités devront tout d’abord créer un cadre éthique. Parce que l’IA ne peut fonctionner qu’avec des données correctes et de qualité.

Les autorités publiques ont déjà obtenu des résultats significatifs dans la digitalisation de leurs services – avec notamment des initiatives comme itsme® et eBox – mais en termes d’utilisation de l’IA, elles peuvent certainement faire plus et avancer plus rapidement. Les citoyens sont très impliqués et s’interrogent. Avec des guidelines éthiques clairs, il est possible de dissiper les doutes et la méfiance tout en aidant les entreprises à développer correctement l’IA.

Et c’est pour ces raisons qu’IBM est favorable à la mise en place d’une AI-factsheet, l’équivalent d’un passeport pour n’importe quel système d’IA. On y retrouverait tout ce qu’il faut savoir de l’algorithme d’IA, les données d’entraînement utilisées et les personnes à contacter en cas de problème. Et s’il s’agissait de la prochaine mission prioritaire des autorités publiques dans le champ de l’IA ?

Découvrez ce que l’IA peut apporter votre organisation et téléchargez notre livre blanc The Cognitive Enterprise – Reinventing your company with AI