Au fil des mois, Twitter décide finalement de supprimer son algorithme de recadrage des photos. Le réseau social a annoncé le 19 mai 2021 dans un billet de blog que sa fonctionnalité de recadrage était « plus ou moins » biaisée et pas forcément optimale. L’algorithme de recadrage a pour mission d’identifier dans une photo ce qui sera le plus pertinent visuellement, afin d’adapter son format. Le groupe assure vouloir diminuer sa dépendance aux outils automatisés.

Twitter a-t-il développé un algorithme discriminatoire ?

Finalement, le réseau social reconnaît que son algorithme n’était pas forcément optimal. Le réseau social a été accusé de favoriser certaines personnes plutôt que d’autres avec ce fameux algorithme de recadrage. Twitter a demandé à des chercheurs de produire un rapport analysant les choix que l’algorithme fait lorsqu'il choisit de recarder une photo. En réalisant ces tests, les chercheurs ont découvert que l’algorithme appliquait effectivement des préjugés raciaux. L’intelligence artificielle choisissait par exemple de mettre en avant une femme blanche plutôt qu’une femme noire...

Globalement, l’algorithme préférait les personnes blanches dans 4% des cas. Même si cela peut paraître peu, ce n’est pas normal et Twitter en a pleinement conscience. Il y avait également des biais en fonction des genres. En effet, l'algorithme choisissait de mettre en avant les hommes plutôt que les femmes. L'étude interne de Twitter a également révélé que l'algorithme recardait les femmes de manière inappropriée plus souvent que les hommes. Le visage n’était pas forcément mis en valeur, contrairement aux hommes.

Le réseau social préfère supprimer son IA de recadrage

Le réseau social tire donc la conclusion que son algorithme pourrait être nuisible à terme et reconnaît que le fait de s'appuyer sur le machine learning pour recadrer les images privées des utilisateurs n’était pas une bonne idée. La décision de recarder une photo doit être prise par les utilisateurs. Pour aider les twittos, le réseau social a même agrandi les aperçus d'images dans ses applications iOS et Android. L’algorithme est encore partiellement en activité mais les utilisateurs peuvent désormais avoir un aperçu de leur photo avant sa publication.

À terme, Twitter assure que cet algorithme doit disparaître. Le réseau social a déclaré que : « dans la plupart des cas, l'apprentissage automatique se substituera à l'intuition humaine ». Twitter déclarait déjà à l’automne 2020 ceci : « à l'avenir, nous nous engageons à vous montrer la photo recardée avant qu’elle ne soit officiellement publiée ». Twitter précise travailler sur d'autres améliorations pour améliorer l’expérience de ses utilisateurs. Certaines devraient être annoncées dans les prochains mois.