Les outils de reconnaissance d’image sont de plus en plus perfectionnés, et surtout de mieux en mieux entraînés pour différencier un objet d’un autre. Néanmoins, leur capacité à percevoir les choses est ‘mécanique’ contrairement à l’Homme. Ce défaut a été mis à l’épreuve de quelques malins qui ont réalisé des autocollants capables de perdurer une intelligence artificielle pour lui faire halluciner (littéralement) des objets.
Ce n’est pas la première fois que des personnes essayent de tromper la façon dont les IA voient le monde. C’est le cas du projet Hyperface qui veut nous protéger des outils de reconnaissance grâce à des motifs imprimés sur des vêtements. Comme pour les autocollants dont il est question dans cet article, on appelle cela des images contradictoires.
Imaginés par des chercheurs de Google, les motifs créés poussent d’un pas en avant les pratiques d’utilisation des images contradictoires. D’ailleurs les visuels créés sont à la portée de tous, peuvent être imprimés chez vous. De plus, pour tromper l’IA, nul besoin de positionner l’autocollant à un endroit spécifique. Comme précisé sur le compte-rendu des chercheurs, les visuels permettent de « créer une attaque physique sans prendre en compte les conditions de lumière, l’angle de la caméra, le type de classificateur qui doit être trompé, ou même les autres objets présents dans la scène. »
Dans un futur proche, des libertaires pourraient s’organiser pour imprimer en masse ce type de visuels et en placer partout dans les rues ou en faire des masques lors de manifestations pour tromper les outils de reconnaissance d’image de la police ou de Street View. Des petits plaisantins pourraient aussi en cacher dans les points de vente Amazon Go, et ainsi rendre les ordinateurs un peu fou.
Des images contradictoires pour protéger les libertés, ça ferait un bel épisode pour Black Mirror non ?
