Bumble censurera les images inappropriées grâce à une IA

Bumble, l’application de rencontres qui oblige les femmes à faire le premier pas, vient d’annoncer la mise en place d’une intelligence artificielle capable de flouter les nudes et autres photos inappropriées fréquentes sur l’application.

Cette mesure sera prise à partir de juin. De la manière qu’Instagram le fait pour les images jugées choquantes, tous les clichés envoyés sur Bumble seront vérifiés par l’IA puis communiqués au destinataire. Si la photo est jugée obscène par la vérification automatique, elle apparaîtra floutée avec tout de même la possibilité de la consulter.

Bumble développer ce processus pour lutter contre les avances sexuelles non désirées, qui représentent une triste réalité quotidienne pour les femmes sur ce type d’applications. Une enquête menée par Consumers Research il y a 3 ans, révélait que 57% des femmes déclarent se sentir harcelées sur les applications de rencontres, contre seulement 21% des hommes. Malheureusement, ces chiffres sont très certainement d’actualité, voire en hausse. Dans un communiqué de presse, Andrey Andreev, CEO de la maison mère de Bumble, Badoo, Chappy, et Lumen déclare : « Le partage d’images obscènes est un problème mondial d’une importance cruciale et il nous incombe à tous, dans les mondes des médias sociaux et des réseaux sociaux, de montrer l’exemple et de refuser de tolérer les comportements inappropriés sur nos plateformes ».

D’après Bumble, ce système serait efficace dans 98% des cas. Il devrait aussi permettre de dissimuler des images d’armes à feu, ainsi que des selfies nus dans un miroir, plus compliqué à traquer. Whitney Wolfe Herd, la CEO de Bumble, serait en discussion avec l’État du Texas pour faire du partage d’images obscènes un crime punissable. Selon elle, cet acte devrait être une infraction menant à une amende de 500 dollars.

Suite à cette innovation, Bumble continue ses travaux en matière d’intelligence artificielle, et annonce développer un outil permettant de détecter cette fois, les messages inappropriés. De son côté, le leader Tinder serait aussi en passe de déployer un système similaire.