L’AI Act européen se concrétise encore un peu plus

Les députés européens ont adopté en commission les propositions qui vont composer l’AI Act, un règlement pour encadrer l’utilisation de l’intelligence artificielle (IA). L’Union européenne (UE) espère que son texte sera considéré comme pionnier dans le monde entier.

Des usages de l’IA interdits

L’AI Act est en préparation depuis 2021, et il compte désormais plus de 1 000 amendements. Il s’agit de l’un des textes les plus négociés de l’histoire du Parlement européen. Le processus a été particulièrement complexe, car l’intelligence artificielle est une technologie en pleine évolution et expansion, qui touche déjà de nombreux secteurs et industries, aussi bien dans le public que dans le privé.

Pour commencer, l’UE a décidé de bannir plusieurs pratiques liées à l’usage de l’IA, notamment l’utilisation de modèles « intrusifs » et « discriminatoires ». Cela inclut l’interdiction des systèmes d’identification biométrique en temps réel et différés dans les espaces publics accessibles, sauf pour les forces de l’ordre dans le cadre de la poursuite de crimes graves et uniquement après autorisation judiciaire.

Les systèmes de catégorisation biométrique utilisant des caractéristiques sensibles telles que le genre, la race, l’ethnicité, le statut de citoyenneté, la religion ou l’orientation politique sont également interdits. Les systèmes de police prédictive basés sur le profilage, l’emplacement ou les antécédents criminels, ainsi que les systèmes de reconnaissance d’émotions par les forces de l’ordre sont aussi proscrits. Enfin, la récolte en masse de photos sur Internet, ainsi que le recours à la reconnaissance faciale dans les lieux publics, font partie des usages interdits.

Un cadre fixé pour les systèmes « à haut risque »

Le texte introduit surtout un régime plus strict pour les applications d’IA à « haut risque », notamment celles qui représentent des dangers prévisibles pour la santé, la sécurité, les droits fondamentaux, l’environnement, la démocratie ou l’État de droit. Ainsi, les systèmes utilisés pour influencer les électeurs dans les campagnes politiques, ou ceux qui permettent la recommandation sur les réseaux sociaux, ont été placés sur la liste « à haut risque ».

Pris de cours par les systèmes comme ChatGPT, les eurodéputés ont rajouté des dispositions spécifiques pour les IA génératives, dont les obligations sont similaires à celles prévues pour les systèmes considérés « à haut risque », note Le Monde.

Les fournisseurs de ces modèles seront tenus de respecter les obligations de transparence prévues par le règlement, en veillant à ce que les utilisateurs soient informés que le contenu a été généré par une machine. Ils vont aussi devoir appliquer des « garanties adéquates » en ce qui concerne le contenu généré par leurs systèmes, et fournir un résumé de tout matériel protégé par le droit d’auteur utilisé pour former leurs IA.

L’Europe se voit pionnière pour encadrer l’IA

Avec l’AI Act, l’Union européenne veut se positionner en tant que meneur mondial dans la réglementation de l’intelligence artificielle. Outre-Atlantique, les régulateurs avancent également, avec une rencontre entre la vice-présidente Kamala Harris et les PDG des plus importantes entreprises d’IA. Pour sa part, le Royaume-Uni vient de lancer une vaste enquête sur le marché de l’IA générative.

Le vote en plénière du texte aura lieu au mois de juin. L’UE espère qu’il pourra entrer en vigueur dès l’année prochaine.