AI Act : loi sur l’IA en Europe qui se rapproche

AI Act – Les députés européens ont franchi une étape importante vers l’adoption de la première loi sur l’intelligence artificielle (IA) au monde. Une fois approuvées, ces règles régiront l’utilisation de l’IA en Europe et visent à garantir un développement éthique et centré sur l’humain de cette technologie.

AI Act : loi sur l’IA en Europe qui se rapproche

Les députés ont adopté un mandat de négociation sur les règles proposées pour l’IA lors d’un vote au sein du Comité du marché intérieur et du Comité des libertés civiles. Le mandat de négociation a été adopté avec 84 voix en faveur, 7 contre et 12 abstentions. Ces règles visent à garantir que les systèmes d’IA sont surveillés, sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement.

La loi adopte une approche basée sur les risques, imposant des obligations aux fournisseurs et aux utilisateurs d’IA en fonction du niveau de risque que l’IA peut présenter. Les systèmes d’IA présentant un niveau de risque inacceptable pour la sécurité des personnes seraient strictement interdits. Cela inclut les systèmes utilisant des techniques subliminales ou manipulatives, exploitant les vulnérabilités des individus ou utilisés à des fins de notation sociale.

Les députés ont également inclus des interdictions sur l’utilisation intrusive et discriminatoire des systèmes d’IA, notamment les systèmes de reconnaissance biométrique en temps réel dans les espaces publics, les systèmes de profilage prédictif, les systèmes de reconnaissance des émotions dans l’application de la loi, la gestion des frontières, le lieu de travail et les établissements éducatifs, ainsi que le grattage indiscriminé de données biométriques pour créer des bases de données de reconnaissance faciale.

Les députés ont élargi la liste des domaines à haut risque, y compris l’influence des électeurs dans les campagnes politiques et les systèmes de recommandation utilisés par les plateformes de médias sociaux avec plus de 45 millions d’utilisateurs.

En ce qui concerne les modèles fondamentaux, les députés ont imposé des obligations pour garantir une protection robuste des droits fondamentaux, de la santé, de la sécurité, de l’environnement, de la démocratie et de l’État de droit. Les modèles génératifs fondamentaux devront également respecter des exigences de transparence supplémentaires, telles que la divulgation que le contenu a été généré par une IA, la conception du modèle pour éviter la génération de contenu illégal et la publication de résumés des données protégées par des droits d’auteur utilisées pour l’entraînement.

Pour encourager l’innovation en matière d’IA, des exemptions ont été ajoutées pour les activités de recherche et les composants d’IA fournis sous des licences open source. La nouvelle loi promeut également les « sandbox » réglementaires, qui sont des environnements contrôlés permettant de tester l’IA avant son déploiement.

Les députés souhaitent renforcer le droit des citoyens à déposer des plaintes concernant les systèmes d’IA et à recevoir des explications sur les décisions basées sur des systèmes d’IA à haut risque qui affectent considérablement leurs droits.

AI act – Le mandat de négociation doit maintenant être approuvé par l’ensemble du Parlement européen lors d’un vote prévu en juin avant que des négociations avec le Conseil sur la forme finale de la loi puissent commencer. Si adoptée, cette loi deviendra la première législation de ce type au monde, positionnant l’Union européenne en tant que leader dans la régulation de l’IA centrée sur l’humain et éthique.