La NTSB, le Conseil national de la sécurité des transports des autorités états-uniennes, enquête sur l’accident mortel d’une Volvo autonome Uber. Le rapport montre que la voiture avait bien détecté la piétonne avant de la percuter. Elle l’a même fait 6 secondes avant l’accident mortel. Le problème viendrait de l’interprétation du logiciel. La personne âgée de 49 ans ne se trouvant pas sur un passage protégé et guidant son vélo à côté d’elle dans l’obscurité, le software l’a considérée comme un « simple » obstacle.
Hors des clous
Une alerte sonore avait été envoyée, mais la conductrice, non focalisée sur la route, n’a pas réagi. Dès lors, la voiture a fait le choix d’éviter un freinage « intempestif » ou une manœuvre d’évitement potentiellement dangereuse pour aller percuter ce qu’elle avait considéré comme un obstacle sans grand danger pour l’occupante de la voiture. L’accident serait donc à la fois lié à la distraction de la « conductrice » absorbée par son smartphone et aux programmeurs d’Uber qui n’ont pas envisagé « l’éventualité de piétons traversant hors des clous » dans le système du logiciel.
Juste milieu
Cet accident mortel montre les limites de l’intelligence artificielle. Les développeurs ont dû régler le curseur des réactions du véhicule pour qu’il ne réagisse pas à la moindre suspicion d’alerte. Sans quoi, la voiture n’arrêterait pas de freiner au moindre objet ou à la moindre présence humaine ou animale. Il faut donc doter la voiture autonome d’un certain degré de « témérité ». Uber n’a sans doute pas été assez vigilant en ne considérant pas la possibilité d’un piéton traversant hors d’un passage protégé sans avoir remarqué la voiture arrivant vers lui. Depuis, la société « a développé des améliorations essentielles » au service de « la sécurité ».
News
