Intelligence Artificielle

Google veut un cadre éthique pour encadrer le développement de l’IA militaire

Les conséquences du projet Maven

La compagnie Google travaillerait sur un code de conduite éthique visant à encadrer le développement de projets axé sur l’intelligence artificielle militaire.

Pour rappel, le projet Maven avait créé des remous entre les employés de Google et ses dirigeants. Si la firme avait argué du fait que les technologies développées dans le cadre du partenariat avaient un usage « non offensif », cela n’a pas suffi à rassurer tous les employés. Suite à une lettre adressée au PDG Sundar Pichai, une douzaine d’entre eux avaient démissionné de l’entreprise en se positionnant clairement contre la collaboration entre la société et le Pentagone. Finalement, les pressions mises en place ont fonctionné puisque Google a renoncé au projet dès le début du mois de juin.

Selon les rapports de Defense One et du New York Times, l’entreprise américaine travaillerait actuellement à mettre en place un cadre éthique chargé d’orienter sa vision du développement de l’intelligence artificielle militaire. Bien que les contenus ne soient pas encore publics, Google a confié au Times que la firme prévoyait d’interdire l’utilisation de l’intelligence artificielle dans les armes.

Des emails publiés par le même média laissent également entendre que la firme était clairvoyante en ce qui concernait la sensibilité du projet Maven. L’une des chercheuses, Fei-Fei Li, indiquait dans un courriel qu’il fallait « éviter à tout prix de mentionner l’implication de l’intelligence artificielle » parce que « ce serait du pain béni pour les médias pour faire du mal à Google ». De fait, la compagnie avait fait le choix de ne pas évoquer le projet Maven auprès du public, craignant les conséquences et les retombées médiatiques.

Des documents révélés par Gizmodo avaient également rendu public le montant des recettes liées à la collaboration entre les deux entités, soit 15 millions de dollars. Si ce montant aurait pu augmenter en raison de la hausse du budget consacré au projet, de tels documents mettaient surtout en valeur le fait que cette première collaboration avec le gouvernement aurait pu être le début d’une longue série.

Le projet d’un tel cadre éthique tend à démontrer que Google a saisi qu’il devait se pencher sur une telle question. Néanmoins, la tâche s’annonce difficile puisqu’il faudra qu’il se penche sur des multitudes d’applications potentielles, directement ou indirectement militaires.

Source

Send this to a friend