Rekognition rien que le nom fait peur. Créé par Amazon, ce logiciel de reconnaissance faciale a déjà beaucoup fait parler de lui. Utilisé par les autorités américaines, son usage n’est que très peu approuvé. L’entreprise fait aujourd’hui une annonce importante et explique que le système peut désormais détecter avec plus de précisions des émotions et est à présent en mesure de détecter la peur.

Des améliorations inquiétantes

Dans un bref communique l’entreprise de Jeff Bezos explique lancer des « améliorations de précision et de fonctionnalité pour nos capacités d’analyse faciale. » « Nous avons amélioré la précision de l’identification du sexe. De plus, nous avons amélioré la précision de la détection des émotions (« Joie », « Tristesse », « Colère », « Surprise », « Dégoût », « Calme » et « Confusion ») et ajouté une émotion, « Peur ». Enfin, nous avons amélioré la précision quant à l’estimation des tranches d’âge. Ces dernières ont également été restreintes dans la plupart des groupes d’âge. »

Rekognition entraîne de nombreuses préoccupations tant en interne qu’en externe. Ces nouveautés rendent encore plus précise la technologie d’Amazon et suscite déjà des questions sur la vie privée. Nombreux sont ceux qui souhaitent qu’Amazon arrête de vendre et d’utiliser Rekognition.
L’outil a déjà fait des erreurs notamment dans l’identification des sexes et elle aurait encore plus de mal a identifier le sexe de personnes de couleurs. Avec l’IA les biais sont nombreux et surtout problématiques. IBM avait proposé une solution en début d’année afin de réduire ces derniers.

Il y a quelques jours, des chercheurs ont présenté une IA capable d’identifier des émotions à partir d’images. L’utilisation de cette dernière semblait inoffensive et destinée à améliorer la modération de contenu ou encore les relations ordinateur/humains. Reste à savoir ce qu’Amazon fait vraiment avec cette technologie…