Yoshua Bengio est un informaticien qui considéré comme un des pères du deep learning aux côtés de Yann Lecun et Geoffrey Hinton. Lors d’une interview accordée à Bloomberg, il s’est montré très critique, et peu rassuré quant aux travaux sur l’intelligence artificielle effectués en Chine.
« C’est le scénario du Big Brother de 1984. Je pense que ça devient de plus en plus effrayant, » a-t-il déclaré. Cet enseignant de l’Université de Montréal a de quoi s’inquiéter. La mise en application sous le régime de Pékin est assez spectaculaire, et loin du respect des libertés individuelles. C’est d’ailleurs dans le cadre d’un test qu’une province a lancé une application permettant de dénoncer des mauvais payeurs à proximité.
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
Capture d’écran de l’application permettant de dénoncer des mauvais payeurs se trouvant à proximité.
Ce statut de mauvais payeur est directement lié à un programme de note sociale qui sera finalisé en 2020 pour tous les citoyens chinois. Ce même programme étant associé à un vaste soutien technologique, notamment grâce à l’intelligence artificielle. À travers la reconnaissance faciale, les habitants sont suivis et l’on peut dégrader leur note s’ils traversent lorsque le feu est rouge par exemple.
« L’utilisation de votre visage pour vous localiser devrait être fortement réglementée, » complétera Yoshua Bengio. Pour lui, la quantité de données que les géants de la technologie en Chine et partout dans le monde est problématique. Les gouvernements doivent pouvoir faire émerger des organes de confiance, capables de créer des paramètres légaux autour du traitement de la donnée et de leur propriété.
Enfin, il terminera sur un impact important de l’IA sur notre société : la perte d’emploi. « La technologie, à mesure qu’elle devient plus puissante, en dehors d’autres influences, conduit simplement à une plus grande concentration du pouvoir et de la richesse. C’est mauvais pour la démocratie, c’est mauvais pour la justice sociale et le bien-être général de la plupart des gens, » explique-t-il. Il faudrait donc que les États anticipent le fait que l’IA puisse se voir confier une part importante de certaines activités industrielles, et qu’une partie de la population se retrouve en difficulté. Émerge ainsi une problématique de redistribution des richesses.
