En 2021, une ingénieure nommée Missy Cummings s’attire les foudres d’Elon Musk sur le réseau social alors appelé Twitter. Professeur à l’Université Duke, Cummings a mené des recherches sur la sécurité des voitures autonomes, et les résultats l’ont amenée à émettre des avertissements sévères concernant la technologie d’assistance à la conduite de Tesla. Les voitures, a-t-elle écrit, avaient « des comportements variables et souvent dangereux » qui nécessitaient davantage de assessments « avant qu’une telle technologie ne soit autorisée à fonctionner sans contrôle immediate par des humains ».
Forte de ses recherches, Cummings a été nommée à la National Freeway Targeted visitors Protection Administration – pour aider à la réglementation des voitures robotisées.
Les followers de Tesla ont réagi avec leur sérénité et leur sens de la point of view habituels, ce qui signifie qu’ils l’ont absolument perdu. Leur insistance sur le fait que Cummings tenterait de réglementer injustement leur fils Elon a rapidement incité Musk lui-même à se joindre au fil.
« Objectivement », a-t-il tweeté, « son bilan est extrêmement biaisé contre Tesla ». En réponse, les hommes de Musk ont déchaîné toute leur fureur contre Cummings – son travail, son apparence, ses motivations. Ils l’ont accusée de conflits d’intérêts, ont signé des pétitions exigeant son renvoi et lui ont envoyé des menaces de mort par courrier électronique.
Mais le fait est que les frères de guerre de Musk se sont trompés d’ingénieur. En tant que l’une des premières femmes pilotes de chasse de la Maritime, Cummings pilotait des F/A-18. (Indicatif d’appel : Shrew.
) Elle n’a pas été intimidée par le comportement agité de quelques personnes sur Twitter avec des images de profil d’anime. Elle a publié les pires menaces sur LinkedIn, a embauché des agents de sécurité et a continué à se battre. « Je me dis, est-ce que tu vas vraiment faire ça ? » elle se souvient avoir réfléchi.
« Je double la mise. Le pilote de chasse en moi se révèle. J’aime les bons combats. »
Elle n’a pas exactement gagné cet engagement particulier. De nombreuses plaintes de la aspect de Tesla ont poussé la NHTSA à forcer Cummings à se récuser de tout ce qui concerne l’entreprise. Mais vous savez ce qu’on dit à propos de tout atterrissage dont vous pouvez vous éloigner.
Cummings a accepté un nouveau poste à l’Université George Mason et a élargi ses recherches de Tesla au monde moreover substantial de tous les véhicules autonomes. Avec des sociétés comme Cruise et Waymo qui lancent des taxis entièrement robotisés dans les rues de San Francisco et d’autres villes, l’essor des machines a commencé – et Cummings est en première ligne de la résistance. Dans un nouvel short article controversé, elle conclut que les nouveaux taxis robots sont quatre à huit fois furthermore susceptibles d’avoir un accident qu’une voiture conduite par un humain.
Et cela ne compte pas la façon dont les véhicules autonomes provoquent d’étranges embouteillages, bloquent les véhicules d’urgence et s’arrêtent même sur une personne qui avait déjà été heurtée par une voiture conduite par un humain.
« Dans le journal qui a vraiment énervé tous les trolls de Tesla, je dis en fait qu’il ne s’agit pas seulement d’un problème de Tesla – que Tesla est la première à rencontrer ces problèmes », me dit Cummings. « Pendant des années, j’ai dit aux gens que cela allait arriver, que ces problèmes se manifesteraient dans la conduite autonome.
Et c’est effectivement le cas. Si quelqu’un dans la communauté des voitures autonomes est surpris, c’est de sa faute. »
Il s’avère que servir dans la Marine est un très bon moyen de s’entraîner à la colère des Muskovites.
Dans ses mémoires de 1999, « Hornet’s Nest », Cummings rappelle à quel issue elle aimait voler à réaction et affirme que l’excitation d’être catapultée depuis un porte-avions – ou d’atterrir sur un porte-avions – n’a jamais vieilli. Mais l’environnement était loin d’être accueillant. Le harcèlement sexuel dans la Maritime était monnaie courante et des collègues masculins répétaient à plusieurs reprises à Cummings qu’elle n’était pas qualifiée pour piloter des chasseurs simplement parce qu’elle était une femme.
Lorsqu’elle et une autre policière se sont présentées à un tournoi de golf sur la foundation, on leur a dit d’enfiler l’uniforme des Hooters et de conduire les chariots à bière. Cummings a refusé.
Les moteurs tactiques de destruction volants ont également fourni à Cummings une leçon de première key sur les potential risks cachés des devices, de l’automatisation et des interfaces utilisateur.
Lors de son leading jour de development, deux pilotes ont été tués. Lors de son dernier jour, la Marine a connu le pire désastre d’entraînement jamais survenu à bord d’un porte-avions. Au whole, au cours des trois années de vol de Cummings, 36 personnes sont mortes dans des mishaps.
En 2011, alors qu’il menait des recherches sur les hélicoptères robots pour la Marine, Cummings a eu une révélation. Même entourés de rien d’autre que de l’air, ces hélicoptères étaient loin d’être parfaits – et ils s’appuyaient sur les mêmes capteurs que les voitures autonomes lorsqu’elles fonctionnent juste à côté des voitures et des personnes. « Quand j’ai approfondi les capacités de ces capteurs », dit Cummings, « c’est à ce moment-là que je me suis réveillé et que je me suis dit, oh, nous avons un sérieux problème dans les voitures. »
Certains des potential risks sont d’ordre strategy. Les gens sont distraits, les systèmes de conduite autonomes sont confus dans des environnements complexes, etc. Mais d’autres potential risks, dit Cummings, sont additionally subtils – « sociotechniques », comme elle le dit.
Ce qu’elle appelle la « culture hypermasculine de la Silicon Valley » est étroitement liée à l’énoncé de mission des Large Tech : « aller vite et casser les choses ». Selon elle, la lifestyle des frères et un état d’esprit disruptif incitent les entreprises à passer sous silence les risques en matière de sécurité.
Tout cela rend la tâche encore additionally difficile pour les femmes lorsqu’elles formulent le genre de critiques que Cummings a formulées.
« Quand Elon Musk m’a lancé ses sbires, la misogynie à mon sujet en tant que femme, mon nom, tout est devenu très vite sombre », se souvient-elle. « Je pense que l’armée a fait beaucoup de progrès, mais je pense que ce qui se passe dans ces entreprises de la Silicon Valley n’est qu’un rappel que nous ne sommes pas allés aussi loin dans notre société que je le pensais. »
Un exemple : le mois dernier, le responsable de la sécurité chez Waymo a vanté une nouvelle étude de son entreprise sur LinkedIn.
La recherche n’était pas publiée et n’avait pas fait l’objet d’un examen par les pairs. Mais Waymo a utilisé l’étude pour affirmer que ses voitures robotisées étaient en réalité beaucoup moins susceptibles d’avoir des accidents que les voitures conduites par des organismes biologiques comme vous et moi.
Cummings ne l’avait pas.
Elle avait ses nouveaux résultats – également encore en prépublication – qui montraient que les taxis autonomes étaient beaucoup moreover sujets aux incidents. Alors elle est allée aussi sur LinkedIn et l’a dit.
Cette réponse lui était familière depuis ses années dans la Marine.
Kyle Vogt, le PDG de Cruise, s’est glissé dans les commentaires. « J’aimerais vous aider dans cette analyse », a-t-il écrit à Cummings, remettant en dilemma ses calculs. « Ce serait formidable de se connecter et d’en discuter davantage. »
Cummings a répondu de la même manière. « J’aimerais vous aider à comprendre les statistiques de base, l’utilisation de la eyesight par ordinateur et ce que signifie être un PDG sûr et responsable d’une entreprise », a-t-elle écrit. « Appelle à tout minute. »
Les femmes, pense-t-elle, ont capté son ambiance. « Toutes les femmes qui ont lu ça se disaient : Mmm-hmm, allez-y », dit Cummings. Mais les hommes – amis de la Silicon Valley – ne l’ont pas fait.
Ils pensaient qu’elle avait été trop méchante avec Vogt. « Il essayait juste de t’aider », lui dirent-ils.
« Tous les gars l’ont lu comme : C’est une telle mégère ! » dit Cummings.
Mais, toujours pilote de chasse, elle était imperturbable. « C’est comme ça que j’ai obtenu mon indicatif d’appel », dit-elle. « Alors je vis avec. »
Alors, qui a raison : Cummings, ou les hommes autonomes de Waymo, Cruise et Tesla ? C’est difficile à dire, pour une raison straightforward : les données sur la sécurité des voitures robotisées sont nulles.
Ensuite, elle a dû déterminer des nombres comparables d’accidents non mortels et des kilomètres parcourus pour Waymo et Cruise, suivis par des sources divergentes. Sa conclusion : Cruise compte huit accidents non mortels pour chaque humain, et Waymo en a quatre – comparables aux taux d’accidents des conducteurs fatigués et surmenés des products and services de covoiturage comme Uber et Lyft.
Les fournisseurs de robots-taxis affirment que Cummings a tort pour plusieurs raisons.
Surtout, disent-ils, les chiffres des accidents humains sont en réalité sous-estimés. (De nombreux accrochages, par exemple, ne sont pas signalés.) De as well as, les chiffres d’accidents pour l’ensemble du pays, ou même seulement pour la Californie, ne peuvent pas être comparés à ceux de San Francisco, qui est bien as well as dense et additionally vallonné que l’État dans son ensemble.
Vu sous cet angle, Cruise a soutenu dans un récent report de blog site que ses taxis ont été impliqués dans 54 % d’accidents en moins que les voitures conduites par des humains. La société affirme également que les chauffeurs de taxi sont victimes d’un accident non mortel tous les 85 027 miles parcourus, soit 74 % de collisions en plus que les robots de Cruise.
Cummings ne l’achètera pas. Un short article de website n’est pas de la science c’est un communiqué de presse. « Chaque entreprise a un intérêt financier à publier un document qui lui donne une bonne image, et dans le cas de Cruise, cela donne une mauvaise graphic aux conducteurs de covoiturage », dit-elle.
« Alors c’est ce qu’ils font. » C’est exactement le genre de lifestyle sociotechnique que Cummings critique – et qu’elle est particulièrement qualifiée pour critiquer.
D’autres specialists rejettent également les affirmations de Cruise, venant de personnes incitées à accueillir nos nouveaux suzerains robots.
« Si nous devions croire les chiffres publiés par Cruise concernant les conducteurs de VTC, ces conducteurs auraient en moyenne deux incidents par an », explique Steven Shladover, ingénieur de recherche à l’Institute of Transportation Scientific studies de l’UC Berkeley. « Combien de conducteurs ont deux accidents chaque année ? C’est assez extrême. »
Mais Shladover est également sceptique quant aux chiffres avancés par Cummings.
« Missy suppose un taux d’accidents impliquant des conducteurs humains trop faible pour San Francisco, et Cruise indique un taux d’accidents humains trop élevé », dit-il. « La réalité se situe probablement quelque part entre les deux. »
Alors peut-être que Cummings a raison et que les voitures autonomes sont une menace.
Ou peut-être que ce n’est pas aussi grave que le suggère son nouvel short article. Tant que les voitures robotisées n’auront pas parcouru des centaines de thousands and thousands de kilomètres, il n’y aura aucun moyen de tirer une conclusion statistiquement significative et sans équivoque. Mais l’essentiel est le suivant : cela ne devrait pas avoir d’importance.
Lorsque les données sur la sécurité d’un produit ou d’un appareil sont équivoques, les agences de réglementation sont censées élaborer et appliquer des règles qui protègent les consommateurs, tout comme elles le font dans d’autres secteurs. Si les données sur les voitures robotisées sont équivoques ou incomplètes, alors ces règles devraient les exclure de la route. La charge de la preuve incombe à Waymo, Cruise et Tesla, pas à Missy Cummings.
Et si ces entreprises veulent installer des robots de 2 tonnes dans la rue, bloguer sur des données de référence n’est pas le moyen de montrer aux gens qu’ils sont prêts.
« L’une des grandes choses sur lesquelles je me concentre actuellement, suite à mes années dans l’aviation, est que toutes ces entreprises ont besoin d’un pilote en chef de l’IA », a déclaré Cummings. « Ils ont besoin d’avoir quelqu’un, une personne, qui se lève et dise : ‘Je suis responsable’.
Nous faisons cela en ce second pour l’aviation. C’est pourquoi tant de têtes sont tombées sur les problèmes survenus avec le Boeing 737 Max. Ils ont fait preuve de complaisance.
Ils ont perdu leur lifestyle de sécurité.
Cummings est un chercheur attentif. Elle est aussi, comme l’a dit en privé un chercheur en sécurité des transports, « provocatrice ».
Elle est moreover qu’heureuse de mitrailler des entreprises comme Tesla, Waymo et Cruise, et de faire valoir que les entreprises technologiques doivent être soumises à un cadre réglementaire furthermore demanding. D’une certaine manière, elle est le pire cauchemar d’Elon Musk. Elle a risqué sa vie à plusieurs reprises et régulièrement pour tester les incroyables capacités – et les limites mortelles – des interfaces homme-machine.
Et elle l’a fait dans un environnement où les enjeux sont bien in addition élevés que les champs de bataille de Twitter et LinkedIn. Pour elle, la sécurité des voitures autonomes n’est pas une query abstraite. C’est une problem de vie ou de mort.
« Je suis professeur titulaire. Mon travail parle de lui-même. J’essaie de vous sauver la vie, n’est-ce pas ? » dit Cummings.
« Et il y a un côté de moi où je suis comme Don Quichotte sous stéroïdes. Il n’y a pas de moulin à vent contre lequel je ne veux pas m’incliner. »
12 octobre 2023 : la légende d’une photo de cette histoire a été mise à jour pour clarifier que Missy Cummings exprimait une préoccupation additionally substantial quant au nombre d’entreprises, et pas seulement Waymo, qui risquent de devenir « complaisantes » et de perdre leur « culture de sécurité ».
