Après trois jours de débats, l'Union européenne s'est accordée sur une législation pour réguler l'intelligence artificielle.Il s'agit d'un texte inédit au niveau mondial.Retour sur les nouvelles règles qui vont contrôler l'utilisation de l'IA à travers les pays européens.
Après trois jours intenses de négociations entre les États membres et le Parlement européen, l'UE s'est accordée ce vendredi 8 décembre sur une législation inédite au niveau mondial pour réguler l'intelligence artificielle (IA). Le projet, présenté par Thierry Breton en avril 2021, avait été percuté à la fin de l'année dernière par l'apparition de ChatGPT, qui a révélé au grand public le potentiel de l'IA comme ses éventuelles dérives.
Alors que l'accord politique trouvé doit être complété par un travail technique pour finaliser le texte, retour sur les grands principes du consensus obtenu au sein de l'Union européenne.
Quelques contraintes mais peu d'interdictions
Concernant les IA génératives d'images, le compromis prévoit une approche à deux vitesses. Des règles s'imposeront à tous pour s'assurer de la qualité des données utilisées dans la mise au point des algorithmes des IA et pour vérifier qu'ils ne violent pas la législation sur les droits d'auteur. Les développeurs devront par ailleurs s'assurer que les sons, images et textes produits seront bien identifiés comme artificiels. Parallèlement, les contraintes seront renforcées pour les systèmes les plus puissants.
Pour les systèmes jugés à "haut risque", essentiellement ceux utilisés dans des domaines sensibles comme les infrastructures critiques, l'éducation, les ressources humaines ou encore le maintien de l'ordre, une liste de règles particulière s'appliquera également. Ces systèmes d'IA devront notamment prévoir un contrôle humain sur la machine, l'établissement d'une documentation technique, ou encore la mise en place d'un système de gestion du risque.
Un encadrement des systèmes d'IA qui interagissent avec les humains est aussi prévu par la législation. Entre autres, il sera obligatoire d'informer l'utilisateur qu'il est en relation avec une machine.
Peu d'interdictions sont prévues par le texte. Celles-ci concerneront essentiellement les applications contraires aux valeurs européennes, comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine, ou encore l'identification biométrique à distance des personnes dans les lieux publics pour éviter une surveillance de masse des populations. Sur ce dernier point, les États ont obtenu des exemptions pour certaines missions des forces de l'ordre comme la lutte contre le terrorisme.
Enfin, la législation européenne doit être dotée de moyens de surveillance et de sanctions avec la création d'un office européen de l'IA, au sein de la Commission européenne. Il pourra infliger des amendes jusqu'à 7% du chiffre d'affaires, avec un plancher de 35 millions d'euros, pour les infractions les plus graves.