Compte-rendu
Data : expliquer sans détour
Si les données sont au cœur de la relance de l’économie, elles posent des questions de responsabilité des entreprises et de confiance de leurs salariés et de leurs clients
Les données participent à la dynamique et à la réussite des entreprises. Les Assises Data Transformation by Netexplo, avce La villa numeris pour partenaire, sous le haut patronage du ministère de l’Economie, des Finances et de la Relance ont montré que les grandes entreprises sont mobilisées et ont commencée de mettre en oeuvre des stratégies ambitieuses de transformation.
Diffusé en direct vidéo depuis Bercy, l’événement a réuni deux ministres, Bruno Le Maire et Cédric O, sept dirigeants d’entreprises du CAC 40 et des experts.
L’appréhension d’un cadre respectueux et la confiance sont cruciales. Une des tables-rondes était consacrée à l’éthique et aux data.
Ensemble
«Mutualiser pour être plus forts». Laurence Devillers, professeure en intelligence artificielle (IA) au sein du LIMSI-CNRS, un laboratoire de recherche pluridisciplinaire, et membre du comité national pilote d’éthique du numérique invite à une mutualisation en se rassemblant «autour de la table avec les pays qui ont envie de prendre le train sinon on risque d’arriver à quelque chose qui sera moindre». «On parle toujours du cadre européen, or, à travers le «Global Partnership on Artificial Intelligence» (GPAI), il y a plusieurs démocraties au monde qui seraient capables d’avoir les mêmes valeurs et d’avoir envie de développer dans le même sens». Cette mutualisation est nécessaire, «en respectant le Réglement général de protection des données (RGPD) et la vie privée des personnes et en leur montrant que grâce à leurs données, on peut aller plus loin», précise-t-elle.
Aussi, le groupement d’intérêt public Health Data Hub propose un catalogue de bases de données de santé dans le but d’améliorer la qualité des soins et l’accompagnement des patients. Les différents acteurs ont leur rôle à jouer. «La mutualisation est nécessaire et indispensable car la prime va à celui qui accumule le plus de données» selon David Lacombled, président de La villa numeris, qui promeut un modèle européen et ouvert du digital. Il évoque «une volonté de partage, d’ouverture», regrettant toutefois, une réalité d’une «culture encore trop présente consistant à cacher sa copie». Pour lui, il conviendrait de «réunir une conférence des grandes entreprises et voir ce qu’elles peuvent mutualiser». Il en va de même des pouvoirs publics qui «se doivent d’être exemplaires».
Camille Brégé, directrice associé au BCG souligne qu’il convient de «déterminer des cas d’usages pour partager ces données». Aussi, pour Laurence Devillers, il importe d’impliquer des parties prenantes d’horizons variées, outre les juristes, de «mobiliser en pluridisciplinarité».
«Ce que l’on conçoit bien s’énonce clairement»
La sentence de Boileau traduit l’importance d’expliquer sans détour. Aussi, Laurence Devillers entend, avec le souci d’ «anticiper», donner à lire l’objectif visé avec les data en expliquant «ce que l’on souhaite faire. Si on est capable, tout de suite, de mettre sur le tapis des informations de ce que l’on veut faire avec les données des personnes, je pense qu’elles seraient plus à même de les partager».
Pour David Lacombled, évoquant l’exemple de la plateforme ParcourSup, «le sentiment qu’une IA décide de votre destinée et de votre avenir», relève que «sans explication humaine, il n’y a pas d’acceptation sociale de la data et du numérique». Il considère que «si les citoyens sèment, sans arrêt, des cailloux blancs sur les réseaux sociaux, ils sont malgré tout, très méfiants de ces données et des usages que l’on peut en faire». Pour lui, il faut engager «avant toute chose, une explication et un débat».
Les mots importent. Aussi, dans l’entreprise : «il faut revenir à des mots et à des manières de faire éprouvées comme la responsabilité sociale et environnementale, de correspondant de la CNIL dans les entreprises, de data scientists, des systèmes d’information. Il faut revenir à cette base-là au risque sinon d’en faire un mythe qui sera rejeté».
Pour Camille Brégé, «il faut être clair avec le consommateur sur la manière dont on utilise la data». Il importe d’avoir «plus de transparence aux différents niveaux sinon derrière, il y a une crainte de manipulation» rappelle Laurence Devillers.
Être responsables
«Quand le consommateur donne de l’information, il est en demande de personnalisation. La question est de savoir comment faire de façon responsable et s’assurer que le consommateur ait vraiment confiance» explique Camille Brégé. Il est, ainsi, nécessaire de «bien distinguer ce que l’entreprise connaît du consommateur et ce que le consommateur a autorisé à l’entreprise d’utiliser ». Aussi, il faut, selon elle «des actions très concrètes pour rassurer les collaborateurs et les consommateurs sur les systèmes d’intelligence artificielle, avoir des responsabilités humaines très claires associées à chaque algorithme». Ainsi, elle explique, au sujet des décisions de recrutement, qu’«s’il y a des biais dans les propositions de l’algorithme, c’est l’humain, le directeur du recrutement qui est responsable, il convient de s’assurer qu’il y ait des garde-fous». Les Chief Ethics Officers sont clés pour «s’assurer que les processus sont définis et suivis» souligne Camille Brégé et, ainsi, donner une dimension enfin concrète et tangible à l’éthique dans les data.
//. Partenaires
 |
 |
 |
 |
 |
 |