En route vers le Sommet pour l’Action sur l’IA

#Trends Compte-rendu de la rencontre du 29 janvier 2025

L’IA, mes data et Moi

Valoriser les données personnelles en toute sécurité pour une IA de confiance

En route vers le Sommet pour l’Action sur l’intelligence artificielle (IA), pour lequel cet événement a reçu la labellisation, cette nouvelle rencontre de La villa numeris entendait explorer des voies nouvelles pour concilier l’utilisation des données personnelles et le respect des règles en vigueur.

Alors que l'intelligence artificielle transforme l'économie et la société avec des algorithmes entrainés sur toujours plus de données, une collaboration accrue entre régulateurs et industrie est nécessaire pour clarifier les bonnes pratiques et soutenir l'innovation.

Le président de La villa numeris, David Lacombled, rappelant que «la législation européenne est faite pour protéger les consommateurs européens», interroge les grands témoins de la rencontre : «peut-on rester dans la course à l’innovation et rester fidèle à la défense des droits des individus ?». 

Au tour de l’Europe

«Nous avons un énorme atout : les données. Nous avons un marché de 750 millions d’habitants», se réjouit Thaima Samman, avocate, fondatrice du Cabinet Samman. En effet, «avec son inventivité», «avec son respect des humains» loue David Lacombled, «l’Europe a encore toute sa place à prendre dans le concert des intelligences artificielles». Évoquant l’application chinoise DeepSeek qui l’a «beaucoup intrigué», Théodore Christakis, professeur et auteur de l’étude «L’importance de la pseudonymisation à l’ère de l’Intelligence Artificielle : au-delà du binaire» réalisée pour le cabinet Samman, constate que «tout ce débat, ouvre des opportunités pour l’Europe. Elle a, peut-être, une chance de rattraper son retard en matière d’IA générative». Il rappelle d’ailleurs que «DeepSeek opère depuis la Chine» où le cloud est conservé et où «le gouvernement peut accéder».

Pour Guillaume Poupard, directeur général adjoint de Docaposte, cette application présente «des risques majeurs sur les données. On connaît le système chinois». Pour lui, «il ne faut pas l’importer mais la copier». Il estime qu’ «on va continuer à faire des avancées scientifiques qui permettront de réduire la puissance de calculs nécessaires». D’ailleurs, Romain Lerallut, directeur du AI Lab de Criteo note que «DeepSeek intégré au moteur Perplexity, c’est DeepSeek sans la Chine !» Pour lui, une création avec un aspect éditorial dit quelque chose «des valeurs portées par les créateurs. Avec ces moteurs, il s’agit d’y incorporer les valeurs qu’on aimerait que le monde ait».

Thaima Samman souligne que «l’IA n’est que la dernière avancée d’un monde numérique. On est devant plein de choses !» Pour elle, «c’est le retour des littéraires et des sciences humaines qui travaillent avec la technologie. C’est l’esprit humain qu’on met sur la machine».

Pour Théodore Christakis, «le RGPD n’est pas un pacte de suicide. Il peut promouvoir l’innovation». «Le RGPD et l’AI Act ne sont pas là pour faire peur. La genèse des textes est de trouver cet équilibre. Beaucoup de personnes ont critiqué l’IA Act, mais il donne un cadre dans un contexte compliqué avec de multiples enjeux. C’est une approche par les risques écrite et annoncée», note Thaima Samman pour qui, il faut faire revenir l’Europe à «un continent d’innovation». D’ailleurs, Théodore Christakis, relève que «les priorités d’Ursula von der Leyen ont changé par rapport à son précédent mandat».

Il s’agit, à présent, de «faire de l’Europe, un continent de l’IA, promouvoir l’innovation et réduire les formalités administratives». Il ajoute : «On a raté des choses mais ce qui est clair, c’est qu’on a énormément de données, d’entreprises et de talents. Il faut pouvoir utiliser ces données pour faire de l’innovation !» Romain Lerallut relève que «les enjeux sont significatifs. En tant que chercheurs et ingénieurs, on développe des solutions qu’on applique à la publicité que l’on pourrait répliquer sur beaucoup d’autres domaines». Il évoque l’équipe composée de 125 chercheurs œuvrant sur l’avancement de l’IA et du machine learning qu’on appelait avant «sciences des données». Ceux-ci «développent de nouveaux produits qui concurrencent les GAFA». Ces travaux se mènent avec «des partenaires académiques : l’INRIA, l’ENSAE, Sorbonne université». Il leur est ainsi offert «un banc d’essai, une plateforme où ils peuvent expérimenter nos produits». Autre initiative porteuse née en Europe : la solution d’IA générative à la fois éthique et souveraine DALVIA Santé où la confiance a toute sa place. Guillaume Poupard évoque ainsi «la synthèse des dossiers médicaux qu’on fait tourner sur un cloud qu’on choisit».

«Arrêter de faire des règles qui nous bloquent»

Guillaume Poupard revient sur la genèse du sommet évoquant les Britanniques et le sommet «AI Safety Summit» qui s’est tenu en 2023. Il se rappelle de «la parole anxiogène sur l’IA y compris aux Etats-Unis» qui régnait précédemment. Avec l’IA Action Summit, l’IA est appréhendée «de manière globale». Des sujets feront l’objet d’une attention forte : «éviter que ces nouvelles technologies ne soient gardées que par quelques acteurs uniquement. Comment faire en sorte que le plus grand nombre en bénéficie ?». Il évoque ainsi «l’évolution du monde de travail, la gouvernance, la complexification du monde». Pour Guillaume Poupard, «l’IA est un sujet mondial». Il lui faut «une gouvernance agile et efficace». Une condition pour embarquer les parties prenantes au sommet qui se tiendra dans quelques jours ? «Pas de nouvelle régulation», estime Guillaume Poupard.

«Il faut arrêter de faire des règles qui nous bloquent. On dépense beaucoup plus pour la compliance que pour l’innovation», déplore Théodore Christakis. Il évoque les nombreux «rapports sur la nécessité et l’importance de la pseudonymisation» qu’il cite dans son étude. Or, il explique que «la pseudonymisation peut être réversible» mais ne l’est pas toujours. Tout dépend des mesures mises en place qui peuvent significativement empêcher de «remonter qui se trouve derrière une série de données de santé» par exemple. Théodore Christakis note que «l’autorité de protection des données personnelles entre dans une logique très protectrice sans prendre en compte ce risque de réidentification, ce qui pourrait aller un peu trop loin». Il aborde le fait que l’European Data Protection Board a publié de façon inattendue des lignes directrices sur la pseudonymisation et s’interroge sur ce calendrier alors que les conclusions de l’Avocat général dans le dossier SRB portant sur la définition de la donnée personnelle et de la pseudonymisation sont attendues pour le 6 février prochain en amont de la décision de la CJUE.

Théodore Christakis note que «les guidelines sur la pseudonymisation semblent être basées sur une approche absolue». Il loue, au contraire, l’autorité de protection de données de Hambourg qui a adopté une interprétation plus souple du RGPD, «pro-innovation et efficace pour avancer». Il prône «une approche par les risques». Cela permet d’«innover de façon responsable tout en protégeant les données». D’ailleurs, pour Thaima Samman,«c’est un faux débat d’opposer protection des citoyens et innovation». Il importe d’«éviter que le régulateur devienne un politique». Elle revient sur le RGPD «discuté pendant des années pour arriver à trouver un équilibre qui permet son fonctionnement. Il permet une homogénéisation européenne et d’avoir une même référence. Il contient plein d’outils qui permettent d’avoir de la souplesse». Or, elle déplore que «c’est l’approche la plus radicale qui a été adoptée avec un risque 0. Si on fonctionnait comme on fonctionne avec le RGPD pour l’avion ou la voiture avec l’obligation de maîtriser parfaitement 100% des risques, alors on ne prendrait plus ni l'avion ni la voiture».

«On ne peut pas demander aux ingénieurs d’être à la fois des stars en IA et en droit européen. Il nous faut des règles et contraintes simples et intelligibles pour des gens qui ne sont pas des juristes.» estime Romain Lerallut qui veut «savoir quel espace de liberté pour innover. Si on veut une réglementation utile et efficace qui ne soit pas un frein, il faut de la clarté et de la proportionnalité et qu’on puisse développer nos produits».

Eduquer

«Les technologies demandent un apprentissage similaire à la lecture et aux mathématiques», estime Thaima Samman qui promeut «l’apprentissage des bases». Pour elle, il s’agit de «comprendre conceptuellement ce que c’est pour le gérer dans nos vies. C’est un effort qui n’est pas intuitif».

Une «phase d’apprentissage» est nécessaire, estime Thaima Samman, évoquant également «un entraînement personnel pour en tirer des choses intelligentes. L’IA n’est d’ailleurs que des modèles de statistiques extrêmement sophistiquées. La probabilité la plus forte amène sa réponse». Elle invite à «éduquer et à apprendre à contrôler les instruments qu’on utilise».

En effet, «l’éducation est indispensable», considère Guillaume Poupard pour qui «il faut sensibiliser : ce n’est pas simple». Il cite la campagne de sensibilisation #PrenezLaConfiance consacrée aux outils du numérique réalisée par Docaposte, INRIA, Croix-Rouge, la Caisse des dépôts et Orange. Il faut des solutions qui permettent de protéger des données». C’est bien, relève Thaima Samman «un apprentissage et un travail sur soi pour appréhender ces systèmes».

:: Nos grands témoins

• Thaima Samman, avocate, fondatrice du Cabinet Samman
• Guillaume Poupard, directeur général adjoint de Docaposte
• Romain Lerallut, directeur du AI Lab de Criteo 
• Théodore Christakis, professeur (en visio)

:: Pour aller plus loin

• «L’importance de la pseudonymisation à l’ère de l’Intelligence Artificielle: au-delà du binaire». L’étude réalisée par le Professeur Théodore Christaki pour le Cabinet Samman >> Télécharger