Intelligence Artificielle Tribunes

Les IA de reconnaissance faciale sont-elles dangereuses ?

Par Thomas Solignac, co-fondateur de la startup Golem.ai.

En septembre 2017, les résultats d’une étude menée à l’Université de Stanford par les Professeurs Kosinski et Wang ont suscité une intense controverse. L’expérience consistait à entraîner un réseau de neurones profond (deep neural network) à reconnaître l’orientation sexuelle d’individus, seulement à partir de photos de leur visage. L’IA obtint un taux de réussite de 74% pour les femmes et de 81% pour les hommes sur un échantillon-test de 35 326 personnes. À l’ère de la généralisation des caméras et de la surveillance, il devient urgent d’interroger l’éthique de ces algorithmes de reconnaissance faciale.

Une technologie catalysée par l’IA

La reconnaissance faciale est une technologie qui permet d’identifier un individu automatiquement à partir d’une photo de son visage. Les premières finalités sont relatives à l’authentification ; ce qu’on retrouve par exemple lorsque l’on déverrouille son téléphone en montrant son visage à la caméra.

Au-delà d’une simple identification biométrique, c’est bien sûr un outil puissant pour la surveillance des individus ; nul besoin de bracelets électroniques équipés de GPS, les caméras sont partout.

L’essor de la reconnaissance faciale doit beaucoup à deux mouvements technologiques ; le deep learning et la big data. L’image est un des bastions de l’IA les plus complexes à attaquer. C’est encore un point faible des voitures autonomes. Le deep learning, par son approche statistique, a permis d’obtenir de meilleurs résultats. Plutôt que de donner une méthode de reconnaissance spécifique à un algorithme, on lui donne des exemples de données classifiées, il cherche des corrélations statistiques, et applique ces corrélations sur de nouvelles données non-classifiées.

Bien que le machine learning existe depuis les années 50, l’augmentation de la puissance de calcul des machines a grandement permis son développement. La mode du big data quant à elle, nous a fait entrer dans une ère où la donnée devient plus facilement disponible ; en somme nous pouvons nourrir plus facilement les réseaux de neurones de grandes quantités d’images.

La GDPR est une émergence significative face à cette prise de conscience du danger et de la valeur de la donnée, dans un moment où les IA en dépendent de plus en plus. Dans le même temps, la simple montée du numérique a créé de très grandes quantités d’informations (les réseaux sociaux en particulier) dont l’IA peut se nourrir plus ou moins efficacement. Les algorithmes sont devenus si performants qu’ils permettent même d’identifier les individus positionnés de profil ou déguisés.
La reconnaissance faciale offre ainsi une source substantielle de données personnelles, propres à nourrir les algorithmes de matching et de profilage des géants du numérique ou des États.

Simplification de l’accès… et contrôle social

Tous les systèmes d’identification actuels (badges, clés, codes etc.) sont susceptibles d’être remplacés par des dispositifs de reconnaissance faciale. La Chine jouit en ce domaine d’une avance technologique considérable. Les use cases matures se multiplient. Ant Financial par exemple, une filiale d’Alibaba, propose ainsi une solution de paiement par reconnaissance faciale, le smile to pay.
Il ne s’agit pas juste d’une amélioration des systèmes d’identification ; la reconnaissance faciale permet l’émergence de nouvelles formes de contrôle.

Éthique de la reconnaissance faciale : trois défis majeurs

La généralisation de la reconnaissance faciale pose trois questions éthiques fondamentales.
La première tient aux moyens nécessaires à son déploiement. La matière première de cette technologie n’est rien moins que nos visages. Peut-on considérer que le visage d’un utilisateur constitue une data comme les autres ?

Face à l’enjeu de perte totale et définitive de son anonymat dans l’espace public, que vaut un consentement ? Estimerait-on acceptable cette concession qu’il faudrait encore s’assurer de la sécurité de cette donnée ultra-sensible et de la légalité des traitements effectués par les opérateurs publics ou privés. Les nombreuses affaires de brèches informatiques ou de négligences des opérateurs incitent à la réserve sur ce point.

La reconnaissance faciale pose aussi la question de sa propre finalité. L’asymétrie d’information exorbitante qu’implique cette technologie accroît les possibilités d’influence et de coercition émanant d’autorité politique ou économique. Un Big Brother capable de reconnaître tous les individus et d’en obtenir instantanément le profil et les antécédents surpasserait de beaucoup celui imaginé par Orwell.

Enfin, la reconnaissance faciale nous place sous la coupe des algorithmes, de leurs biais et de malentendus préjudiciables quant à l’interprétation de leurs résultats. La valeur des résultats des IA est fonction des questions qui leur sont soumises : qui cherche des corrélations entre un faciès et n’importe quel type de données en trouvera nécessairement grâce au couple reconnaissance faciale – IA.

Mais interpréter cela comme une victoire de la technologie sur la contingence reviendrait à nier l’influence décisive des données que nous fournissons à l’IA. En effet, si la machine fait elle-même ses corrélations, c’est l’humain qui collecte, sélectionne et même parfois classifie la donnée en amont. La donnée biaisée amènera des résultats biaisés.
Le deep learning ne fait jamais que répéter ce qu’on lui a montré.
L’éthique doit ici se confronter aux biais cognitifs qui nous font confondre la carte et le territoire, les statistiques et les probabilités, des relations de corrélation, de causalité ou de concomitance.

Les questionnements relatifs à l’analyse des visages, en particulier par l’utilisation du deep learning, ne doivent pas rester uniquement dans les mains des ingénieurs et des entreprises. L’IA confère des pouvoirs inaccessibles jusque-là, et la possibilité de surveillances massives est assurément l’enjeu immédiat des technologies de reconnaissance faciale.

Cette tribune vous est proposée par :
Thomas Solignac, spécialisé en intelligence artificielle et innovation. Entre autres, il se passionne pour la mise en perspective des sujets technologiques sous l’angle des sciences humaines. A leur croisement, il entreprend dans le domaine du traitement du langage naturel, avec pour ambition de démocratiser les interfaces homme-machine par le langage. Depuis plusieurs années, il enseigne ces sujets dans différentes écoles supérieures.

Send this to a friend