Fiches RGPD de la CNIL sur l'intelligence artificielle

Des nouvelles de la task force IA de la CNIL créée en janvier 2023: une conférence "IA + vie quotidienne + vie professionnelle" le 16/11 et la V1 de fiches pour faire de l'IA en respectant la vie privée.

Rappel: la CNIL qui bosse sur l'IA depuis des années a créé en janvier une équipe dédiée avec les missions suivantes:

• faciliter la compréhension de l'IA
• consolider l'expertise de la CNIL en matière de prévention des risques pour la vie privée
• préparer l'entrée en application du règlement européen sur l'IA
• développer les relations avec les acteurs de l'IA

Dans ce cadre, la CNIL organise une conférence dont l'intitulé induit en erreur "IA et libre arbitre: sommes-nous des moutons numériques" le 16/11.

En réalité, le contenu est plus intéressant que le titre, puisque ce sont des tables rondes sur l'impact de l'IA sur la vie quotidienne et la vie pro, avec des participants issus de l'université (+ un investisseur, Cedric O, également membre du comité stratégique sur l'IA du gouvernement).

Par ailleurs, la CNIL a publié la première version de "fiches" dédiée à un point précis: la constitution de base de données permettant de créer des modèles d'intelligence artificielle dans le cas où ces bases contiendraient des données personnelles.

Il s'agit à la fois d'une analyse juridique et, en même temps, de prises de position et de recommandations à l'intention des entreprises/organismes publics.

Fiche 1

Porte sur le régime juridique applicable aux traitements de données en phase de développement du système d’IA

Fiche 2

Traite de la détermination de la finalité du traitement de constitution d’une base de données d’apprentissage d’un système d’IA ;

Contexte: dans le RGPD, on ne peut collecter des données personnelles dans tous les sens au cas où un jour elles serviraient. On ne doit collecter des données que dans un but clairement identifié, une "finalité".

Dans le cas de l'IA, ce n'est pas facile car on est pas certain de faire fonctionner les applications que l'on imagine et, au contraire, on peut en créer par sérendipité, sans l'avoir prévu.

Fiche 3

Aide à la qualification juridique (par rapport au RGPD) des fournisseurs de systèmes d’IA (ceux qui fournissent des briques prêtes à l'emploi ou en kit pour mettre en oeuvre l'IA).

Fiche 4

S'assurer que le RGPD vous donne bien le droit d'utiliser les données perso dans vos applications d'IA.

Fiche 5

Aide à déterminer les cas dans lesquels une application d'IA est si sensible qu'il faut réaliser une étude approfondie sur les risques liées aux données personnelles.

Fiches 6 et 7

Une méthode permettant de concevoir une application d'IA, un système de collecte et d'utilisation de données personnelles, respectueux des principes du RPGD, parmi lesquelles la minimisation (collecter uniquement les données indispensables)

Vous avez la possibilité de donner votre avis, jusqu'au 16/11, dans le cadre de la consultation de la CNIL.