En mars dernier, un véhicule autonome Uber a causé le décès d’une cycliste à Tempe en Arizona. Suite à ce dernier, Uber a eu interdiction de tester ses voitures autonomes en Arizona.

Alors que la voiture avait heurté la femme qui traversait en dehors des passages piétons, on sait à présent pourquoi la voiture ne s’est pas arrêtée. Les capteurs de la voiture ont bien vu Elaine Herzberg traverser, mais deux sources ont indiqué que le logiciel avait été réglé de manière à ne pas réagir. Cette décision est la conséquence d’un réglage fait par Uber. Les ordinateurs placés dans les voitures autonomes pourraient dans de nombreuses situations voir quelque chose qu’il pense être un humain ou un obstacle. Uber aurait ainsi établi ce seuil à un niveau si bas afin d’éviter « les faux positifs », que le système a vu une personne traverser la route et a déterminé qu’une action immédiate n’était pas nécessaire. À cause de ce réglage, le véhicule aurait confondu la victime avec un de ces faux positifs.

Au moment de l’accident, une opératrice était bien présente dans le véhicule afin de pouvoir prendre le contrôle du véhicule en cas de problème, mais selon les images diffusées par la police d’Arizona, elle ne regardait pas la route à ce moment-là.

Un porte-parole d’Uber s’est exprimé suite à l’article de The Information : « nous collaborons activement avec le NTSB dans son enquête. Par respect pour ce processus et la confiance que nous avons établie avec le NTSB, nous ne pouvons pas commenter les détails de l’incident. Entre-temps, nous avons entrepris un examen de sécurité de haut niveau de notre programme de véhicules autonomes, et nous avons invité l’ancien président du NTSB, Christopher Hart, à nous conseiller sur notre culture générale de sécurité. Notre examen porte sur tout, de la sécurité de notre système à nos processus de formation pour les conducteurs de véhicules, et nous espérons avoir plus à dire bientôt. »

Suite à l’accident, des informations ont été dévoilées comme par exemple le fait qu’Uber aurait réduit le nombre de capteurs de sécurité sur ses véhicules autonomes. De plus, le journal New York Times expliquait dans un rapport que le nombre de conducteur de sécurité avait été réduit de deux à un, ce qui explique pourquoi l’opératrice était seule au moment de l’accident. Des révélations qui ne vont pas dans le sens d’Uber certes, mais qui ne vont pas permettre aux véhicules autonomes de se développer et déployer facilement.