Droit et intelligence artificielle: l'Europe prépare ses lois

L'Union européenne prépare de nouvelles lois pour encadrer le développement de l'intelligence artificielle afin de garantir que la technologie est développée et utilisée de manière éthique.

Le bras exécutif de l'UE s'apprête à proposer que les nouvelles règles s'appliquant aux " secteurs à haut risque ", tels que la santé et les transports, et suggère que l'Union mette à jour les lois sur la sécurité et la responsabilité, suivant un "livre blanc" sur l'intelligence artificielle révélé par Bloomberg. La Commission européenne devrait dévoiler la version finale de ce document à la mi-février.

Le document fait partie d'un plan d'action plus large de l'UE pour rattraper les États-Unis et la Chine dans le domaine de l'intelligence artificielle, mais de l'intelligence artificielle respectueuses des valeurs européennes telles que la vie privée des utilisateurs. Alors que certains critiques ont longtemps soutenu que des lois strictes sur la protection des données comme celles de l'UE pourraient entraver l'innovation en matière d'IA, les responsables de l'UE affirment que l'harmonisation des règles dans la région stimulera le développement.

La présidente de la Commission européenne, Ursula von der Leyen, a promis que son équipe présenterait une nouvelle approche législative sur l'intelligence artificielle dans les 100 premiers jours de son mandat, qui a débuté le 1er décembre, en confiant la tâche de coordination à la responsable numérique de l'UE, Margrethe Vestager.

Un porte-parole de la Commission basée à Bruxelles a refusé de commenter les fuites, mais a ajouté : " Pour maximiser les bénéfices et relever les défis de l'intelligence artificielle, l'Europe doit agir comme une seule entité et définira sa propre voie, une voie humaine. La confiance et la sécurité des citoyens européens seront donc au centre de la stratégie de l'UE".

Désigner des autorités de surveillance de l'intelligence artificielle

L'UE veut exhorter ses États membres à désigner des autorités chargées de surveiller l'application de toute règle future régissant l'utilisation de l'IA, selon le document.

En outre, l'UE envisage également de nouvelles obligations pour les pouvoirs publics sur le déploiement de la reconnaissance faciale et des règles détaillées sur son utilisation de ces systèmes dans les espaces publics. Le rapport suggère d'interdire l'utilisation de la reconnaissance faciale par les acteurs publics et privés dans les espaces publics pendant plusieurs années afin de laisser le temps d'évaluer les risques de cette technologie.

Dans le projet, l'UE définit les applications à haut risque comme "les applications de l'intelligence artificielle qui peuvent produire des effets juridiques pour l'individu ou la personne morale ou présenter un risque de blessure, de décès ou de dommages matériels importants pour l'individu ou la personne morale".

Le droit volet: une des éléments de la stratégie de l'UE

La stratégie de l'UE en matière d'IA s'appuiera sur les travaux antérieurs coordonnés par la Commission, notamment les rapports publiés l'année dernière par un comité composé d'universitaires, d'experts et de dirigeants. Les règles de l'UE ont souvent des répercussions dans le monde entier, les entreprises ne souhaitant pas fabriquer des logiciels ou du matériel informatique qui seraient interdits dans l’UE.

L'un des rapports a défini un ensemble de sept exigences relatives au droit que les systèmes d'IA devraient mettre en œuvre pour être jugés fiables, notamment :

• l'intégration d'une surveillance humaine,
• le respect de la vie privée,
• la traçabilité
• l'absence de parti pris injuste dans les décisions prises par les systèmes.

L'autre rapport propose des recommandations en matière de politique et d'investissement pour l'UE et ses États membres. Les experts ont déclaré qu'il fallait éviter une réglementation inutilement prescriptive, mais que les gouvernements devraient limiter le développement d'armes létales automatisées et envisager de nouvelles règles concernant le suivi injustifié par reconnaissance faciale ou d'autres technologies biométriques.