Le Quotidien Indépendant Luxembourgeois
Après des discussions difficiles entre les États membres et le Parlement européen, l’UE reprend ce vendredi matin le fil sur un texte historique pour réguler l’intelligence artificielle.
Un accord ferait de l’Union européenne la première au monde à se doter d’un cadre juridique complet. L’ambition est de limiter les dérives de l’intelligence artificielle tout en sécurisant l’innovation.
Les négociateurs s’étaient réunis à Bruxelles mercredi après-midi pour des discussions qui se sont poursuivies toute la nuit et hier matin. «De nombreux progrès ont été réalisés au cours des 22 dernières heures. Reprise des travaux demain à 9 h», a annoncé hier sur X le commissaire européen au Numérique, Thierry Breton, à l’origine de la proposition législative présentée en avril 2021.
Les IA génératives intégrées aux négociations
Depuis cette date, les discussions ont traîné en longueur et le processus a été percuté en fin d’année dernière par l’apparition de ChatGPT, le générateur de textes de la société californienne OpenAI, capable de rédiger des dissertations, des poèmes ou des traductions en quelques secondes. D’autres applications sont capables de créer des sons ou des images.
Ces systèmes ont révélé au grand public le potentiel immense de l’IA. Mais aussi certains risques. La diffusion sur les réseaux sociaux de fausses images, plus vraies que nature, a par exemple alerté sur le danger de manipulation de l’opinion. Ce phénomène des IA génératives a été intégré dans les négociations en cours, à la demande des eurodéputés qui insistent sur un encadrement spécifique pour ces technologies. Ils réclament notamment plus de transparence sur les algorithmes et les bases de données géantes au cœur de ces systèmes.
Redonner la main à l’humain
Les États membres craignent qu’une régulation excessive tue dans l’œuf leurs champions naissants, comme Aleph-Alpha en Allemagne et Mistal-AI en France, en rendant prohibitifs les coûts de développement.
Le texte reprend les principes des réglementations européennes existantes en matière de sécurité des produits qui imposent des contrôles reposant d’abord sur les entreprises. Outre des mesures spécifiques pour les IA génératives, le cœur du projet consiste en une liste de règles imposées aux seuls systèmes jugés à «haut risque», essentiellement ceux utilisés dans des domaines sensibles comme les infrastructures critiques, l’éducation, les ressources humaines, le maintien de l’ordre…
Ces systèmes seraient soumis à une série d’obligations comme celles de prévoir un contrôle humain sur la machine, l’établissement d’une documentation technique, ou encore la mise en place d’un système de gestion du risque. La législation prévoit un encadrement particulier des systèmes d’IA qui interagissent avec les humains. Elle les obligera à informer l’utilisateur qu’il est en relation avec une machine.
Les interdictions seront en revanche rares. Elles concerneront les applications contraires aux valeurs européennes, comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine. Mais les eurodéputés veulent supprimer les dérogations autorisant l’identification biométrique à distance des personnes dans les lieux publics par les forces de l’ordre, un autre point de friction avec les États membres.
