Intelligence Artificielle Technologie

Elon Musk, DeepMind et d’autres s’engagent à ne pas produire des armes autonomes basées sur l’IA

L'engagement appellent aussi les gouvernements à réagir

Des leaders du secteur de la technologie, dont Elon Musk et les trois cofondateurs de DeepMind, la filiale de Google dédiée à l’IA, ont signé un engagement promettant de ne pas développer des « armes autonomes mortelles ».

Lors de la Conférence conjointe internationale sur l’intelligence artificielle, l’Institut Future Of Life, – un institut de recherche qui vise à « atténuer le risque existentiel » pour l’humanité -, a annoncé que plus de 2 400 personnes et 160 entreprises et organisations ont signé un engagement, déclarant qu’elles « ne participeront ni ne soutiendront le développement, la fabrication, la vente ou l’utilisation des armes autonomes mortelles ».

Les signataires, représentant 90 pays, appellent également les gouvernements à adopter des lois contre ces armes. Google DeepMind et la Fondation Xprize font partie des groupes qui se sont inscrits. Elon Musk et les cofondateurs de DeepMind du nom de Demon Hassabis, Shane Legg et Mustafa Suleyman ont également signé le document.

L’Institut Future Of Life met en considération le fait que les systèmes d’armes qui utilisent l’IA pour engager « des cibles sans intervention humaine » posent des menaces morales et pragmatiques. Moralement, disent les signataires, la décision de prendre une vie humaine « ne devrait jamais être déléguée à une machine ». Sur le plan pragmatique, ils disent que la diffusion de tels armements serait « dangereusement déstabilisante pour chaque pays et chaque individu » .

« Je suis ravi de voir les dirigeants de l’IA passer de la parole à l’action, mettant en œuvre une politique que les politiciens n’ont jusqu’à présent pas mise en œuvre », a déclaré Max Tegmark, le président de l’institut Future of Life. Il a ajouté à cela : « L’IA a un énorme potentiel à aider le monde, si nous stigmatisons et prévenons ses abus. Les armes IA qui décident de tuer des gens de manière autonome sont aussi dégoûtantes et déstabilisantes que les armes biologiques et doivent être traitées de la même manière ».

En 2015, Musk a fait un don de 10 millions de dollars à l’Institut Future of Life pour un programme de recherche visant à s’assurer que l’IA sera bénéfique pour l’humanité. L’an dernier, Musk, Hassabis et Suleyman ont également signé une lettre envoyée par l’institut à l’ONU qui cherchait à réglementer les systèmes d’armes autonomes.

Source.

Send this to a friend