Des objets fantômes font dévier ou s'arrêter brusquement les voitures Tesla

Des chercheurs en sécurité ont démontré comment les systèmes d’assistance à la conduite Autopilot de Tesla peuvent être amenés à changer de vitesse, à dévier ou à s’arrêter brusquement, simplement en projetant de faux panneaux routiers ou des objets virtuels devant eux.

Leurs hacks ont fonctionné à la fois sur une Tesla exécutant HW3, qui est la dernière version du système d’assistance au conducteur Autopilot de la société, et sur la génération précédente, HW2.5. La constatation la plus inquiétante est qu’un faux panneau routier ne doit être affiché que pendant moins d’une demi-seconde, afin de déclencher une réponse du système de Tesla. Dans un exemple cité par les chercheurs, un panneau «Stop» caché dans une publicité de restauration rapide a réussi à faire arrêter une Tesla fonctionnant en mode pilote automatique, malgré que la commande ne clignote à l’écran que pendant une fraction de seconde.

Le système reconnaissait également les projections virtuelles de personnes et de voitures comme des objets réels, répondant en ralentissant la voiture afin d’éviter de les heurter, et a été trompé par un drone qui projetait un faux panneau de vitesse sur un mur. Les chercheurs, de l’Université Ben Gourion du Néguev, ont déclaré que leurs découvertes “reflètent un défaut fondamental des modèles qui détectent des objets [mais] n’ont pas été formés pour faire la distinction entre les objets réels et faux.” Il est facile d’imaginer comment un mauvais acteur pourrait utiliser cette lacune pour provoquer un accident ou un embouteillage, en piratant un panneau d’affichage numérique par exemple.

La suite ici