Une première mondiale. Des scientifiques chinois de l’Académie des Sciences de Chine ont développé une intelligence artificielle capable de remplacer un procureur dans certaines tâches. Cette IA, actuellement testée par le Parquet populaire de Shanghai Pudong, peut reconnaître certaines infractions et porter des accusations. Cette innovation ne fait toutefois pas l’unanimité, plusieurs procureurs et spécialistes estimant que sa fiabilité n’est pas suffisante pour une application réelle.
Les chercheurs affirment avoir réussi à développer une machine fonctionnant grâce à une intelligence artificielle, pouvant accuser des personnes de certaines infractions, selon le South China Morning Post, qui a eu accès à un article paru dans Management Review. Ils affirment qu’elle peut porter une accusation avec une précision de près de 97%, en ne se reposant que sur « une description verbale de l’affaire ».
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
Une machine « entraînée » depuis 2015
Son développement a démarré il y a des années. Les chercheurs l’ont « entraîné » entre 2015 et 2020. Durant ces cinq années, la machine a pu étudier 17 000 dossiers, lui permettant aujourd’hui d’identifier les huit infractions les plus courantes à Shanghai. Il s’agit des infractions de jeux d’argent illégaux, de fraudes à la carte de crédit, du vol, de conduites dangereuses, ainsi que de blessures intentionnelles, de l’entrave aux fonctions officielles, de la fraude et de « se disputer et de provoquer des troubles ». Ces derniers termes étonnants et imprécis seraient le plus souvent utilisés pour étouffer des affaires de dissidence politique.
Ce « procureur » est testé par le Parquet populaire de Shanghai Pudong, qui représente le plus grand et le plus actif bureau du procureur de district de Chine. Les scientifiques affirment qu’il sera prochainement capable de reconnaître d’autres crimes ou délits, plus complexes, et de porter plusieurs accusations contre une même personne.
Cependant, sa fiabilité ne convainc pas les spécialistes de la justice. « La précision de 97% peut être élevée d’un point de vue technologique, mais il y aura toujours un risque d’erreur. Qui assumera la responsabilité lorsque ça arrivera ? Le procureur, la machine ou le concepteur de l’algorithme ? », interroge un procureur de Guangzhou, dans le sud de la Chine, interrogé par le South China Morning Post. « L’IA peut aider à détecter une erreur, mais elle ne peut pas remplacer les humains dans la prise de décision », argue-t-il.
Une utilisation réelle de cet appareil, et sa possible diffusion, poserait également la question de l’autonomie des procureurs. Cette nouvelle technologie aurait pourtant plusieurs avantages pour eux. Elle permettrait de réduire leur charge de travail et pourrait améliorer sensiblement leur rapidité à traiter une affaire. Pour le professeur Shi Yong, principal acteur du projet, cela leur donnerait aussi plus de temps pour se consacrer aux tâches les plus difficiles.
L’intelligence artificielle est déjà utilisée par les procureurs en Chine
Les procureurs chinois ont recours à la technologie de l’intelligence artificielle depuis 2016, et beaucoup d’entre eux utiliseraient le « système 206 ». Il permet d’évaluer « la force des preuves, les conditions d’une arrestation et le degré de dangerosité d’un suspect pour le public ».
Plusieurs problématiques se posent lors de l’utilisation de tels appareils dans le domaine judiciaire. L’IA doit être capable d’identifier toutes les informations importantes d’un dossier et de supprimer toutes les autres. Elle doit aussi comprendre le langage humain, qui évolue constamment. Il faut donc le traduire en langage mathématique, mais une traduction imprécise induirait l’IA en erreur et amènerait ainsi à de mauvais verdicts. Il existe déjà des logiciels et autres outils permettant cette traduction, mais ils nécessitent l’utilisation de puissants ordinateurs. Des ordinateurs auxquels les procureurs n’ont pour l’instant pas accès.
Ces outils à base d’IA ont donc un impact très limité d’après les chercheurs. « Ils ne participent pas au processus décisionnel consistant à porter des accusations ou suggérer des peines », expliquent-ils.
L’IA développée par les chercheurs de l’Académie des Sciences de Chine peut, quant à elle, être installée sur un ordinateur de bureau classique. Concrètement, pour chaque cas, elle se base sur 1000 « caractéristiques » élaborées à partir d’une déposition orale. Pour déterminer la culpabilité du suspect ou non, elle a ensuite recours au système 206. Elle serait donc plus accessible et plus efficace que les outils existants.
La Chine utilise déjà beaucoup d’intelligence artificielle pour améliorer l’efficacité de son administration ou encore surveiller la population. Cette technologie semble inévitablement amenée à se développer. Face à cette tendance, l’Unesco a récemment adopté la première norme mondiale sur l’éthique de l’intelligence artificielle et l’Union Européenne travaille de son côté à un règlement commun sur ce sujet. L’objectif étant notamment de poser un cadre pour éviter les dérives.
