Op 23 januari, voor een basisschool in Santa Monica, Californië, een Waymo-voertuig raakte een kind.
Dit is wat wij zeker weten.
Het lijkt schokkend, zelfs angstaanjagend. En het biedt al dekking voor veel groepen die er in Californië een aanvraag voor indienen Waymo’s licentie intrekken om zijn auto’s te gebruiken.
Maar de details zijn belangrijk. En als je eenmaal een beetje begint te graven, is de enge kop over een kleine jongen die wordt neergeschoten door een harteloze robot duidelijk niet het hele verhaal.
Ongelukken als deze bieden inderdaad een lens waardoor het rijgedrag van zowel mensen als robots kan worden verbeterd en zelfs levens kunnen worden gered.
Sterk remmen
Er zijn nog steeds details bekend over de crash in Santa Monica. Zoals bij elk mogelijk veiligheidsincident waarbij een zelfrijdende auto betrokken is, de National Highway Transportation Safety Administration doet actief onderzoek.
Dat onderzoek, evenals een vrijwillige openbaarmaking door Waymo– onthult al veel nuances.
Het incident lijkt te hebben plaatsgevonden tijdens het afleveren van de SoCal-school. Een Waymo-voertuig lijkt te hebben gereden tussen voertuigen van ouders die hun kinderen vervoerden.
Zoals vaak gebeurt tijdens stressvolle schooluitval (ik heb drie kinderen, dus geloof me, ik weet het!), stond er een grote SUV dubbel geparkeerd en blokkeerde een deel van de weg.
Toen de Waymo de dubbel geparkeerde SUV naderde, rende een kind van achter de SUV de rijbaan op, direct voor de Waymo.
Het volgende deel is cruciaal. Waymo zegt dat zijn voertuig “…scherp remde, waardoor de snelheid daalde van ongeveer 27 km/uur naar minder dan 10 km/uur voordat er contact werd gemaakt.”
Waymo specificeert niet om welke exacte afstanden het gaat. Maar als je in een fractie van een seconde 18 km/u verliest, betekent dit dat je op de rem moet trappen en niet op een lichte vertraging. Het is een agressieve zet. En het kan heel goed een leven hebben gered.
Waymo zegt dat omdat zijn voertuig slechts 10 kilometer per uur reed toen het in contact kwam met het kind, “de voetganger onmiddellijk opstond” en “op eigen kracht naar de stoeprand liep”.
Waymo belde 911 en meldde het incident bij de autoriteiten. Het bedrijf zei aanvankelijk dat het kind ‘lichte verwondingen’ had opgelopen, maar het is onduidelijk welke verwondingen er daadwerkelijk zijn opgetreden.
Het probleem met mensen
Voor alle duidelijkheid: elke keer dat een kind door een auto wordt aangereden, is het een vreselijk ongeluk. Het is goed dat de NHTSA onderzoek doet. Als ouder heb ik medelijden met de betrokken ouders; het moet angstaanjagend zijn om je kind door een voertuig te zien aangereden.
Maar voordat we bredere conclusies trekken over de veiligheid van zelfrijdende auto’s, is het belangrijk om na te denken over de vraag: “Zou een menselijke bestuurder deze situatie beter hebben afgehandeld?”
SafeKids, een belangenorganisatie, meldt dat tussen 2013 en 2022 Bijna 200 schoolkinderen kwamen om bij ongevallen in de schoolzone.
En het zijn nog maar kinderen. Een paar dagen voor het Waymo-ongeluk, twee ouders kwamen om op het zebrapad nadat ze haar zoon had afgezet bij een andere school in Californië.
Waarom sterven zoveel mensen op weg naar school? Snelheid en afleiding zijn de twee belangrijkste factoren.
SafeKids-rapporten Maar liefst 10% van de automobilisten wordt afgeleid tijdens het rijden in schoolzones, voornamelijk via telefoons en andere apparaten.
3% van de door de groep geobserveerde automobilisten werd zelfs gezien tegelijkertijd twee apparaten gebruiken– misschien aan het spelen met een Bluetooth-headset terwijl ze ook proberen hun kinderen via hun mobiele telefoon in te schrijven op school.
En de meeste schoolzones, zo meldt de groep, hebben snelheidslimieten die te hoog zijn: minder dan 32 kilometer per uur is ideaal, maar de meeste zijn 40 kilometer per uur+
In ieder geval niet dat chauffeurs hen volgen: andere gegevens bewijzen het Wanneer automobilisten kinderen in schoolzones aanrijden, rijden ze gemiddeld 44 kilometer per uur.
Menselijke bestuurders maken met andere woorden talloze fouten. Vooral met de stress van het verkeer en de druk om de gevreesde ‘late pass’ te vermijden, is het voor ouders maar al te gemakkelijk om op weg naar beneden te versnellen en hun ogen van de weg af te wenden.
Helaas, als er kinderen bij betrokken zijn – met hun neiging om met hoge snelheid de straat op te gaan, zoals gebeurde in Santa Monica – betekent die combinatie van snelheid en afleiding dat mensen sterven.
Erger met een persoon?
Dit roept opnieuw de vraag op, in de context van het Waymo-incident, of één persoon het beter zou hebben gedaan dan één NAAR DEgemotoriseerde robot.
Laten we even aannemen dat er een mens achter het stuur van het voertuig zat in Santa Monica. Wat had anders kunnen gaan?
De gemiddelde menselijke reactietijd tijdens het autorijden is ongeveer ¾ van een seconde. Toen het kind de straat opreed, betekent dit dat zijn auto, met een snelheid van 27 kilometer per uur, ongeveer 6 meter zou hebben gereden voordat de bestuurder de aanwezigheid van een voetganger kon voelen.
Misschien hadden ze meteen geremd. Maar NHTSA zelf zegt dat ook de meeste mensen niet. Of het nu uit verrassing is of simpelweg uit vertraging in de verwerking, bestuurders remmen voortdurend, zelfs bij mogelijk dodelijke ongevallen.
Met een persoon achter het stuur is de kans dus groot dat het kind in Santa Monica met een veel hogere snelheid zou zijn aangereden.
Waymo zegt dat uit onafhankelijke modellen blijkt dat “een volledig oplettende menselijke bestuurder in dezelfde situatie contact zou hebben gemaakt met de voetganger met een snelheid van ongeveer 22 kilometer per uur.”
En nogmaals: de meeste chauffeurs in schoolzones zijn niet ‘volledig oplettend’. Zoals SafeKids opmerkt, zijn ze afgeleid, gehaast en te hard.
Waymos zijn zeker niet perfect. Maar zij volg consequent de snelheidslimieten, soms tot het punt waarop u pech krijgt.
En omdat ze voortdurend de weg scannen, reageren ze sneller dan mensen en remmen ze hard als ze iets zien zelfs op afstand zorgelijk. Ze controleren ook nooit hun telefoons probeer te scheren terwijl hij passagiers rondvoert.
Wanneer een robot van 5.000 een kind uitrust, bestaat er een natuurlijke menselijke neiging om de robot te belasteren. Maar in dit specifieke geval is de vraag of iemand het beter had kunnen doen verre van duidelijk.
Optimaliseer voor beveiliging
Dit betekent niet dat we autonome voertuigen moeten kruisigen, en ook niet dat we ze vrij moeten laten.
Het NHTSA-onderzoek zal waarschijnlijk niet neerkomen op de vraag of Waymo bij dit ongeval een mens heeft ingehaald, maar eerder op de vraag of zelfrijdende auto’s meer zouden kunnen doen om kinderen veilig te houden in de buurt van scholen.
NHTSA zegt zelfs specifiek te onderzoeken “of de Waymo AV de nodige voorzichtigheid heeft betracht, onder meer gezien de nabijheid van de basisschool tijdens de drop-off-uren en de aanwezigheid van jonge voetgangers en andere potentieel kwetsbare weggebruikers.”
Omdat Waymos geprogrammeerd kan worden om zich onder specifieke omstandigheden op een bepaalde manier te gedragen – en dit consequent zal doen zodra de parameters zijn ingesteld – bieden ze een unieke kans om nog hogere veiligheidsnormen te stellen dan we voor mensen hanteren.
Nogmaals, SafeKids zegt dat de meeste schoolzones snelheidslimieten hebben boven het ideaal van 32 kilometer per uur. Er is echter geen reden waarom Waymo zijn auto’s niet kan programmeren om consequent met een lagere snelheid te rijden wanneer ze zich in een schoolzone bevinden tijdens de ophaal- of inlevertijden.
Misschien kon Waymos altijd 24 kilometer per uur rijden als hij door een actieve schoolzone reed.
Dit kan ouders irriteren die langs de ophaallijn moeten navigeren, maar het zou kinderen veiliger houden in geval van een ongeluk. Waymos nabij scholen zouden ook als verhuizing kunnen dienen “verkeersremmend” apparaten, waardoor zelfs afgeleide en ongeduldige menselijke bestuurders erachter gedwongen worden langzamer te rijden!
Op dezelfde manier zou Waymo parameters kunnen instellen die zijn voertuigen vertellen langzaam te gaan rijden wanneer ze een dubbel geparkeerde auto nabij een school naderen. SafeKids meldt dubbel parkeren specifiek als een belangrijke risicofactor voor ongevallen nabij scholen.
Gelukkig eindigde dit incident met de ingenieuze begeleiding van Waymo (volgens het verhaal van het bedrijf) of puur geluk, waarbij een kind levend wegliep. Maar dit is geen reden om te negeren wat er is gebeurd.
In plaats daarvan bieden incidenten als deze een unieke kans om maatschappelijke regels te definiëren voor moeilijke omstandigheden, zoals het rijden in de buurt van kinderen – en deze vervolgens in een auto te programmeren die (in tegenstelling tot mensen) hen daadwerkelijk zal volgen.
Het stellen van de lastige vragen die nodig zijn om deze richtlijnen vast te stellen – en in gedachten te houden dat zelfs enge incidenten leerervaringen zijn – is veel moeilijker dan simpelweg de robots de schuld geven en terugkeren naar de door mensen aangedreven status quo.
Maar omdat er elk jaar kinderen sterven in schoolgebieden, is het leren van de juiste lessen uit dit soort incidenten absoluut cruciaal en zelfs levensreddend.
