Décès en Tesla model S en mode auto-pilote

Je voulais le mettre dans mon fil d'actualité mais ça mérite un sujet séparé :

http://www.usinenouvelle.com/article/ouverture-d-une-enquete-aux-etats-unis-apres-la-mort-d-un-conducteur-tesla-en-pilotage-automatique.N400537

Je pensais que quelqu'un en aurait parlé aujourd'hui.

Si un jour j'ai accès à la conduite autonome, je continuerai à être attentif à la route.
Je pense que l'auto pilot est comme la vaccination ( il sauve plus de vie Vs pb d'effets secondaires ) ou le transport aérien ( moins risqué que la voiture mais accidents dramatiques )

Ça me fait froid dans le dos. Je suis de ceux qui ne feront jamais confiance à un pilote automatique sur la route. Dans un avion, oui, sans problème. Mais sur la route, il se passe tellement de choses irrationnelles qu'un PA (pilote automatique) fera des choix qui sembleront en contradiction avec ce que notre instinct nous conduira à faire.
Que fait un PA lorsqu'il doit choisir entre tuer ses passagers et tuer un piéton qui a soudainement surgi sur la route ?
Trop court pour freiner, soit il met un coup de volant à gauche et percute de plein fouet un poids-lourd venant en face et tue ses passagers, soit il freine au maximum et bien droit en sachant qu'il tuera le piéton. Ça soulève des questions d'éthique. Nous, humainement, on tentera de sauver notre vie par instinct de conservation, parce que du coin de l'œil on aura vu le poids-lourd et malgré notre freinage maximal, le piéton mourra. Notre choix sera instinctivement fait. Le PA, lui, nous tuera peut-être.

Dans ce cas précis, la question que la justice devrait se poser, c'est : "si le conducteur n'avait pas eu de pilote automatique, aurait-il pu sauver sa vie ?"
Je pense que, d'une manière générale, un automatisme bien programmé fera toujours mieux que l'humain. Ou en tout cas, il fera plus vite et plus sûrement.
Sauf cas très particulier et il semble bien que c'en soit un.

Ça fait le buzz car c'est Tesla... Par contre, sachez que :
1 - l'auto pilote est une option d'achat,
2 - il peut être déconnecté dans les paramètres,
3 - si l'option est activée, c'est le conducteur qui décide quand l'utiliser seulement si la voiture lui indique que les paramètres requis sont présents,
4 - le conducteur n'est pas dispensable de continuer à surveiller la route ; tu récupères les commandes à l'instant où tu le souhaites ou dès que l'autopilote se coupe de lui même, faute de paramètres suffisants pour conduire seul,
5 - le gars est mort de faute d'inattention ; la voiture reste l'esclave du conducteur humain.

Pour le point 3, le système donne une indication comme quoi les conditions sont bonnes pour une mise en route ?

Auto pilot ou pas, il y a toujours un conducteur derrière le volant, donc en aucun cas on ne peut dire que c'est la faute de l'auto pilot.
Cette personne avait l'habitude d'activer l'auto pilote n'importe où pour filmer ses réactions. L'une de ses vidéos qui s'intitule "Tesla m'a sauvé" montre l'AP qui évite la collision avec un camion qui se rabat sur sa voie, mais n'importe quel conducteur aurait anticipé la manœuvre et réagi beaucoup plus vite.
Je ne peux m'empêcher de penser qu'il a peut-être vu le camion mais a préféré voir comme réagirait l'AP, les gens sont prêts à tout pour quelques vues de plus sur Youtube.

Peut-être aussi que c'est simplement un banal accident de la route comme il en arrive des milliers chaque jour.
Dans tous les cas, c'est très triste. :'(

Exact, j'ai vu après sur AP que c'était un "testeur" youtubeur, il y même des chances qu'il ait filmé son accident ??...

Je trouve que l'appellation "Auto Pilot" est problématique car les gens pensent que c'est de la conduite autonome, et étant naturellement réticents à cette technologie, les accidents de Tesla les confortent dans leur conviction qu'on ne peut pas laisser la technologie prendre le contrôle total du véhicule.

Il faudrait que cette fonction ait un nom qui fasse plus penser à une assistance très poussée, plutôt que de laisser croire que c'est de la conduite autonome pure... car ce n'en est pas encore.

En effet, je suis d'accord avec scarred sur le point 5, c'est très triste d'en arriver là, mais l'enquête le dira : je pense que ce monsieur a joué pour la dernière fois au bêtatesteur !
Cette option, à mon avis est comme le régulateur de vitesse : à utiliser sur autoroute...dégagée ! Point. J'ai connu une situation qui aurait pu être grave avec un régulateur ( de ma faute d'ailleurs : mauvais enclenchement sur le volant du commutateur....ça roule toujours et on en fait des mètres entretemps , c'est d'ailleurs là que j'ai constaté que j'avais une voiture équilibrée et au top pour le freinage d'urgence !).

Foly-vi a écrit:
Que fait un PA lorsqu'il doit choisir entre tuer ses passagers et tuer un piéton qui a soudainement surgi sur la route ?
Trop court pour freiner, soit il met un coup de volant à gauche et percute de plein fouet un poids-lourd venant en face et tue ses passagers, soit il freine au maximum et bien droit en sachant qu'il tuera le piéton. Ça soulève des questions d'éthique. .

On se rapproche tout doucement du conflit positronique au niveau de la Première Loi de la robotique anticipée par Asimov : "Un robot ne peut faire de mal à un être humain ni, restant passif, permettre qu'il arrive du mal à un être humain".

Passant_Mbr a écrit:On se rapproche tout doucement du conflit positronique au niveau de la Première Loi  de la robotique anticipée par Asimov : "Un robot ne peut faire de mal à un être humain ni, restant passif, permettre qu'il arrive du mal à un être humain".

"L'auto-pilot" aurait du être un peu plus égoïste et penser à lui-même au lieu de s'auto-détruire ! << 3ème loi: un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi. >>

scarred a écrit:...5 - le gars est mort de faute d'inattention ; ...

C'est en fait une faute d'attention.

J'ai vu cette histoire sur Facebook et je m’intéresse à la conduite autonome, car je suis persuadé que c'est une technologie d'avenir.
Pour simplifier, les logiciels de conduite autonome sont des logiciels qui sont capables d'auto apprendre et donc de s'auto programmer pour aller vers une meilleure efficacité.
Google et d'autres équipementiers automobiles alignent des centaines de milliers de km avec des voitures autonomes afin que les logiciels soient le plus au point possible.
Ce qui me gêne dans la démarche de Tesla, c'est de faire l'économie des fameux millions de km de roulage et de vendre à ses clients une technologie "Bêta" qui se sert de l'expérience client pour faire cet auto apprentissage, au risque d'en tuer quelques uns.

Pas nécessaire de le rappeler mais on ne sait jamais ...
Cette aide à la conduite ne dispense pas d'être attentif à la route et de surveiller tout ce qui se passe autour en étant prêt à reprendre les commandes sans délai.
C'est juste destiné à soulager le conducteur, comme le régulateur de vitesse soulage le pied droit sur un long trajet.

Question : est-ce que l'Autopilot surveille ce qui se passe derrière ?

rslden a écrit:
Ce qui me gêne dans la démarche de Tesla, c'est de faire l'économie des fameux millions de km de roulage et de vendre à ses clients une technologie "Bêta" qui se sert de l'expérience client pour faire cet auto apprentissage, au risque d'en tuer quelques uns.

Il n'y a pas plus de risque de mort avec auto pilote que de conduire sans auto pilote ...
Il faut être idiot pour penser que la voiture sait déjà tout faire, c'est faux, ce sont les premières versions, comme pour un modèle Mercedes.
Quand on change de ligne, il suffit de mettre le clignotant pour donner l'indication à la voiture, mais c'est au conducteur de vérifier dans son rétro que personne n'arrive derrière à toute allure.
Le gars s'amusait à faire des dashcams? Sa mort découle de circonstances particulières qu'il n'a pas su maîtriser.
Actuellement la voiture détecte les scooters, mais pas les vélos ou piétons qui sont dans le même sens de circulation, sûrement car la vitesse est trop faible, et d'ailleurs c'est bien pour cela que le logiciel est préconisé pour l'autoroute et non les routes départementales.
Bientôt certains vont dire que Tesla ne détecte pas le lapin, lièvre ou sanglier.

Je persiste à penser que le constructeur ne devrait pas mettre un système Béta en fonction au niveau de la sécurité, voire introduire une sécurité qui oblige a avoir les mains posées sur le volant. Ensuite communiquer en disant que les vidéos ou on voit des gens faire n'importe quoi sauf conduire qui sont postées sur youtube avec une Tesla sont une utilisation incorrecte du machin.
A mon avis, cette affaire va faire du bruit.

Alors imaginez un peu ce que donneraient ces autos sans chauffeur.   Oui pour une aide à la conduite, mais non au remplacement à 100 % du conducteur. À ce moment, mieux vaut prendre le train sur des rails sécurisés ou l'avion qui ne rencontrera pas de piétons, lièvres, etc... quoique: un "ptérodactyle" issu de la fonte des glaces !

Ce que vous ignorez :
- la voiture indique dès l'enclenchement de laisser les mains sur le volant comme la sécurité le veut quelle que soit l'auto.
- sur une voiture classique l'on peut piloter main en bas du volant, ici avec le PA impossible de les laisser tout le temps car la voiture exige la détection des mains en haut, comme la réglementation le stipule (11h50 et 12h10)
Ce n'est pas Tesla qui communique sur les vidéos où certains font n'importe quoi en voiture, ce sont des gens comme vous et moi qui font le buzz comme l'accidenté qui n'arrêtait pas de poster des vidéos de ses expériences auto pilote.

Mais ils font comment alors pour lâcher le volant et continuer à rouler ?

Peut-être le principe de la SNCF. Si le conducteur reste un certain nombre de secondes sans toucher au volant, la voiture freine et s'arrête ?
(Ces quelques secondes permettant de filmer une séquence donnant une certaine illusion).

Possible, mais alors, je ne vois pas trop l’intérêt du truc, car rester attentif et réactif quand on n'est pas l'acteur principal, ça me parait encore plus compliqué et fatiguant que de conduire.
Den

rslden a écrit:Mais ils font comment alors pour lâcher le volant et continuer à rouler  ?

On peut lâcher le volant un court instant, à ce moment l'Ap rappelle à l'ordre le conducteur, et s'il ne reprend pas le volant l'Ap met le clignotant et se gare sur le bas côté.

Mais on peut tenir le volant avec le pied par exemple...

Bigfoot a écrit:Pas nécessaire de le rappeler mais on ne sait jamais ...
Cette aide à la conduite ne dispense pas d'être attentif à la route et de surveiller tout ce qui se passe autour en étant prêt à reprendre les commandes sans délai.
C'est juste destiné à soulager le conducteur, comme le régulateur de vitesse soulage le pied droit sur un long trajet.

Question : est-ce que l'Autopilot surveille ce qui se passe derrière ?

C'est tout fait vrai, mais le problème c'est que justement ce genre de système entraîne systématiquement une perte de vigilance et au minimum augmente le temps de réaction.
On se retrouve exactement dans le même cas de figure que la polémique avec les régulateurs, il y a quelques années. Les régulateurs en tant que tels n'étaient évidement pas en cause. Par contre la perte de vigilance qu'ils entraînent l'est et donc ils sont bien indirectement en cause (je parle pas des cas des mytho avec régulateur bloqués).
Bref, la conclusion que j'en tire c'est que tant que ces système ne sont pas fiables à 100 % mettons 99,99 %, il ne faut les utiliser qu'avec la plus extrême prudence et qu'avec d’excellentes conditions de circulation, fluidité du trafic, bonne condition météo et bonne visibilité, ce qui n’était pas le cas. Il faudrait donc qu'il ne puissent pas s'activer si toutes ces conditions ne sont pas réunies. C'est aussi valable pour les régulateurs.    
Pour terminer et faire du mauvais esprit, je dirais qu'on aurait pu titrer : "La Tesla Model S tue " pour contrebalancer  "La Tesla Model S sauve des vies".
Tout aussi faux puisque l'accident en question aurait pu aussi être évité par un conducteur humain.

Mario a écrit:C'est tout fait vrai, mais le problème c'est que justement ce genre de système entraîne systématiquement une perte de vigilance et au minimum augmente le temps de réaction.

J'ai l'expérience tout à fait inverse.

Sur ma Prius+, j'ai un régulateur adaptatif.
Il y a un radar à l'avant qui détecte la voiture qui précède et qui maintient une distance correcte, variable en fonction de la vitesse.
C'est comme l'auto pilote de Tesla sauf qu'il faut tourner le volant.

Je constate que lorsque le système est enclenché, je fais beaucoup plus attention à ce qui se passe devant que lorsque je ne l'utilise pas.
En fait, je suis en permanence en train de vérifier que le système agit comme il le doit.
Cependant, il m'est arrivé d'être distrait, de regarder le paysage à droite à gauche ou les oiseaux ...
Et bien, plusieurs fois, le système m'a sauvé la mise (je ne dirais pas la vie) lorsqu'une voiture a ralenti de manière imprévue devant.

En conclusion : ce système m'oblige à une meilleure attention à la route et m'a évité des accidents.

Ce n'est que mon vécu.

En revanche, je suis d'accord pour dire que le régulateur non adaptatif "type Zoé" peut être dangereux.
Il augmente mécaniquement le temps de réaction.
En effet, sans régulateur enclenché, le simple fait de relâcher la pédale d'accélérateur produit déjà une décélération, avant même que le pied ne passe sur la pédale de frein.
Avec le régulateur enclenché et donc, pied au sol, il faut mettre le pied sur la pédale de frein et appuyer pour que le système décroche.
Cela donne, à mon avis, une demi-seconde à une seconde de délai de réaction supplémentaire.

Avec le régulateur adaptatif, c'est lui qui réagit immédiatement et effectue même un freinage d'urgence, si nécessaire.

Enfin, je ne voudrais pas vous décevoir par mes propos, mais je dirai bien : on conduit ou on ne conduit pas et dans ce dernier cas on se laisse conduire ! Point. Les dispositifs actuels sont pléthore à l'heure actuelle, si on en rajoute encore pour que le conducteur ne fasse presque plus rien, et bien, il ne s'achète plus d'auto : c'est mon point de vue !

Je vais re-tenter ma polémique sur le nom de la fonction : ça ne devrait pas s'appeler Auto Pilot car ce n'est pas un système de conduite autonome.

On doit qualifier ça au mieux de super assistance, et du coup ne pas leurrer les gens sur ce que ça peut et ne peut pas faire.