Intelligence artificielle : le Parlement européen se prononce sur le projet de règlement IA

L’Union européenne ambitionne d’être la première au monde à se doter d’un cadre juridique complet visant à encadrer l’intelligence artificielle (« Intelligence Artificielle » ou « IA ») et sécuriser l’innovation.

Parmi les initiatives de l’Union européenne en matière d’IA, la Commission européenne a publié récemment :

• Une proposition de règlement (« législation sur l’Intelligence Artificielle » ou « Règlement sur l’IA »), publiée le 21 avril 2021 et visant à établir des règles harmonisées pour la mise sur le marché, la mise en service et l’utilisation des systèmes d’intelligence artificielle dans l’UE. Ces règles doivent garantir un niveau élevé de protection des intérêts publics, notamment en ce qui concerne la santé et la sécurité, ainsi que les libertés et les droits fondamentaux des personnes.  
• Une proposition de règlement relatif à la sécurité générale des produits, publiée le 30 juin 2021 et visant à compléter le projet de règlement IA et à prévoir un « filet de sécurité » pour les produits et les risques pour la santé et la sécurité des consommateurs qui ne relèvent pas du champ d’application de la proposition relative à l’IA.
• Une proposition de directive sur la responsabilité de l’IA, publiée le 28 septembre 2022 et visant à adapter les règles en matière de responsabilité civile extracontractuelle à l’ère numérique et à l’IA.

‍

Dans le projet de Règlement sur l’IA, la Commission européenne a choisi une définition large de l’Intelligence Artificielle, la désignant comme :

« un logiciel (…) qui peut, pour un ensemble donné d’objectifs définis par l’homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit ».

Les règles proposées par la Commission européenne établissent des obligations pour les fournisseurs et utilisateurs en fonction du niveau de risque que l’IA peut générer :

• Risque inacceptable : pratiques de facto interdites comme par exemple, la notation sociale par les pouvoirs publics ou les jouets qui utilisent l’assistance vocale pour encourager les enfants à adopter des comportements dangereux
• Haut risque : par exemple, en matière de formation scolaire ou professionnelle, d’emploi et de gestion des travailleurs, de migration, d’asile et de gestion des contrôles aux frontières
• Risque limité : par exemple, pour l’utilisation de « chatbots »
• Risque minimal : par exemple, pour l’application aux jeux vidéo ou pour la mise en place de filtres de spam.  

‍

Le 11 mai 2023, les députés européens ont adopté un projet de mandat de négociations et proposé des amendements sur le projet de Règlement sur l’IA.

Les députés ont notamment complété la liste des pratiques interdites par :

• La surveillance biométrique
• Les systèmes d’IA de police prédictive
• Les systèmes de reconnaissance des émotions (dans les domaines de l’application de la loi, de la gestion des frontières, sur le lieu de travail et dans les établissements d’enseignement)
• La récupération aveugle de données biométriques provenant des médias sociaux ou de la vidéosurveillance pour créer des bases de données de reconnaissance faciale (violation des droits humaines et du droit à la vie privée).

Les députés souhaitent également prévoir le droit des citoyens à porter plainte contre les systèmes d’IA et à recevoir des explications concernant les décisions fondées sur des systèmes d’IA à haut risque susceptibles d’avoir une incidence significative sur leurs droits.

‍

S’agissant des prochaines étapes, le projet de mandat de négociation sur le règlement IA doit désormais être approuvé par l’ensemble du Parlement, lors d’un vote au cours de la session du 12 au 15 juin. Ensuite, le « trilogue européen », c’est-à-dire les négociations avec le Conseil de l’Union européenne et la Commission, pourra débuter.

Pour plus de détails, voir notamment :

→  Communiqué de presse
→  Excellence et confiance en matière d’intelligence artificielle