Dødsulykke ved Arendal: - Teslas Autopilot gjorde at føreren var mindre engasjert i kjøreprosessen

[OlaML]

1 hour ago, oophus said:

Den skal stoppe for objekter i veibanen. Stikker noe ut fra veikant inn i veibanen så skal selvfølgelig systemet skille ut dette som et mulig problem og i det minste varsle om usikkerheten er der. 

Normalt sett så burde det minimalt sett være noe som kan undersøke om førerens øyne i det minste er rettet mot fartsretningen. 

Dette er motsatt problem av "ghost breaking" der den antar at noe er i veibanen mens det kun er skygger feks. Er vi der at begge feil er som planlagt og implementert rett? Eller burde man kikke på sensorsettet og kanskje lure på om $5 sensorer fra 2006 omtrent, kanskje ikke er nok? Vi vet jo at med ADAS så følger sannsynligheten for mindre konsentrasjon teknologien. Så hva kan gjøres for å sikre dette enda mer? 

Hvis det er så selvfølgelig, skriv koden selv da. Tesla klarer det ikke. Sensorene er gode nok, men det er for vanskelig å skrive programvare som oppfører seg som et tenkende, kjørende menneske. Det er helt fint å bruke Tesla sin førerautomasjon som den er hvis man bruker vett, men det er som kjent mangelvare på veien.

[6RCURCGB]

1 hour ago, Hansp said:

Kjører man aktpågivende og hensynsfullt ihh til vegtrafikkloven så blinker man over i venstrefila UANSETT når noe foregår på vegskuldra. Jeg er ikke fra Arendal men denne vegen kjører jeg minst 50-60 ganget i året, og her er det aldri såpass trafikkert at det ville by på problemer å legge seg ut. Føreren av denne bilen slapp billig unna med 3 mnd. Burde vært 1 år minst av allmenpreventive hensyn.

Jeg er helt enig med deg, det er fullstendg galskap å holde filen når det står kjøretøy på skulderen. Siden sjåføren overhodet ikke fulgte med kan det godt hende at "AP" passerte lastebilen med få centimeters margin, den kunne like gjerne streifet selv vogntoget.

"§ 239. Den som uaktsomt ved bruk av våpen, ved motorvogn eller på annen måte forvolder en annens død, straffes med fengsel inntil 3 år eller under særdeles skjerpende omstendigheter inntil 6 år "

Jeg kan ikke se noen formildende omstendigheter her, dette var ikke en uunngåelig ulykke. Tre måneder i spjeldet er altfor lite...

 

[AL123]

Espen Hugaas Andersen skrev (12 timer siden):

Men det går ikke liv tapt pga Autopiloten. Det er pga sjåføren, utforming av vei, mm.

Slike systemer reagerer bare hvis sjåføren ikke følger med i det hele tatt. De reagerer ikke hvis sjåføren bare er uengasjert i kjøreprosessen.

De gjør nok det. Enkelte reagerer feks på at du er i ferd med å bli trøtt før du merker det selv.

[AL123]

Aktive førerstøttesystemer er helt overflødige og burde vært forbudt. Hvis det finnes en mulighet for at bilen kan kjøre uten at en følger med, så vil et visst antal sjåfører la være å følge med. Det er Murphys lov i praksis. Og hvis man må følge like godt med på veien med og holde hendene på rattet like trygt som om man ikke hadde førerstøtte, hva er da poenget? Kun en farlig gimmick.

[oophus]

OlaML skrev (1 time siden):

Hvis det er så selvfølgelig, skriv koden selv da. Tesla klarer det ikke. Sensorene er gode nok, men det er for vanskelig å skrive programvare som oppfører seg som et tenkende, kjørende menneske. Det er helt fint å bruke Tesla sin førerautomasjon som den er hvis man bruker vett, men det er som kjent mangelvare på veien.

1. Hvis de ikke klarer det, så er det litt håpløst å si det de har sagt i så mange år angående teknologien. Det er jo ikke rart at folk går rundt og faktisk trur på at bilene er selvkjørende. 

2. Sensorene er på ingen måte gode nok. De er til og med avdanket og selges ikke til vanlige folk hos leverandøren. De blir fremdeles produsert kun fordi Tesla kjøper dem i bulk.  

3. Jeg har ingenting imot ADAS på generell basis. Hovedproblemet nå i dag for teknologien samlet under ett er at det er lett å misforstå hva den kan og ikke kan. Man kan fint kjøre samme strekning 100 ganger uten problemer og bli lat i form av hvordan man følger med i fartsretningen fordi erfaringen tilsier at det går fint. Da er det jo et problem at ei lastebil som står 10cm ut i veibanen blir "usynlig" for systemet.

4. Det er også et problem i måten Tesla har implementert systemet på. Man føler man blir "straffet" hvis man tar over fordi alt skrur seg av. Hos alle de andre så er "handover" kun midlertidig, slik at det går på automatisk igjen når situasjonen tilsier det. Når alt skrur seg av ved korrigering ved f.eks en slik situasjon som dette hvor man burde ønske å gi en situasjon mer plass en hva ADAS selv gjør, så tester man grenser i mye større grad i håp om at bilen skal gjøre det man ønsker at den skal gjøre. Man reagerer rett og slett senere enn normalt og tar over og gir plass med større inputs for å få det til. I et system som ikke "straffer" deg ved at alt må aktiveres igjen etter ei overtagelse, så gjør man overtagelsen mye tidligere. 

Endret 11. august 2022 av oophus

[PaladinNO]

uname -i skrev (13 timer siden):

Jeg ville formulert meg annerledes når uskyldige liv går tapt pga denne Autopiloten.

Det er fortsatt bilfører sitt fulle ansvar å følge tilstrekkelig med i trafikken. Man må ta ansvar for egen kjøring, uten å stole på at bilen vet best.

Jeg hadde cruise control på min gamle bil, men jeg brukte den aldri fordi reaksjonstiden min ble dårligere ved behov for fartsendringer.

[Jens Kr. Kirkebø]

oophus skrev (6 timer siden):

Normalt sett så burde det minimalt sett være noe som kan undersøke om førerens øyne i det minste er rettet mot fartsretningen. 

Men hvordan skal man få til det? Klarer et kamera virkelig å se øynene mine gjennom de mørke, progressive solbrillene jeg vanligvis bruker når jeg kjører bil i sollys?

[J-Å]

15 hours ago, Leif Hansen said:

TESLA AUTOPILOT SOFTWARE UPDATES - LISTED OVERVIEW:

https://www.autopilotreview.com/latest-tesla-autopilot-updates/

Dette var en 2015 modell. Da hadde den sannsynligvis den såkalte AP1. Dette var et system som Tesla kjøpte av israelske Mobileye. Det blir såvidt jeg vet ikke lenger oppdatert, da Tesla avsluttet samarbeidet og lagde sin egen "AP2". Som det sies I en annen kommentar har dette systemet svært dårlige muligheter for å oppdage et stillestående objekt i veibanen, fordi alt stillestående filtreres bort av radardetektoren. For slike objekter  er man er avhengig av kamera med objektgjenkjenning eller LIDAR. Det har skjedd ganske mye med automatisert kjøring og antikollisjonsystemer de siste 7 årene. Jeg har personlig erfaring med flere generasjoner av "autopilot" i Tesla , inkludert AP1, og etter min mening burde disse gamle systemene som ikke oppdateres, og som har svært begrenset computerkapasitet, bli forbudt. Det burde være en del av PKK å sjekke at de er deaktivert. 

Endret 12. august 2022 av J-Å

[uname -i]

Jens Kr. Kirkebø skrev (2 timer siden):

Men hvordan skal man få til det? Klarer et kamera virkelig å se øynene mine gjennom de mørke, progressive solbrillene jeg vanligvis bruker når jeg kjører bil i sollys?

Solbriller skal gå bra siden det er et infrarødt kamera som følger med. Om brillene er progressive tror jeg ikke spiller så stor rolle, men noen systemer fungerer ikke så bra med polariserende solbriller så skulle det være tifelle så er det bare å ha et annet par liggende i bilen.

[J-Å]

Det forundrer meg at rapporten ikke omhandler konstruksjonen av lastestroppen, og grunnen til at den løsnet. Hvorfor blir spennbånd godkjent uten sperrehake, mens nesten alt løfteutstyr har sperrehake ?  

[Complexity]

19 minutes ago, uname -i said:

Solbriller skal gå bra siden det er et infrarødt kamera som følger med. Om brillene er progressive tror jeg ikke spiller så stor rolle, men noen systemer fungerer ikke så bra med polariserende solbriller så skulle det være tifelle så er det bare å ha et annet par liggende i bilen.

Så man skal måtte bruke dårligere solbriller? Polariserte solbriller kan gi klårere syn og mindre stress på øynene kontra vanlige solbriller.

Dvs vanlige.. alle mine solbriller er polariserte så det er vel kansje det vanlige i dag?

Endret 12. august 2022 av Complexity

[uname -i]

Complexity skrev (10 minutter siden):

Så man skal måtte bruke dårligere solbriller? Polariserte solbriller kan gi klårere syn og mindre stress på øynene kontra vanlige solbriller.

Ja, mest pga refleksjon fra vann. Så hvis du kjører bilen din mye i vannet så er det en fordel.

Edit: Polariserende solbriller er en ulempe når man skal lese tekst på en LCD-skjerm. Så hvis bilen din baserer seg på å kun komme med info på LCD-skjerm så er vanlige solbriller å foretrekke.

Endret 12. august 2022 av uname -i

[Kahuna]

John-B skrev (18 timer siden):

Er ingenting galt med Autopilot, men Tesla burde ta 2 grep:

1. Endre navn, slik at folk kan slutte å bruke det som unnskyldning. Autopilot er jo teknisk sett et veldig presist navn på hvordan det fungerer, men det finnes jo idioter som tydeligvis tror at når autopilot aktiveres i et fly kan begge pilotene gå og legge seg til å sove til de har landet.

2. Det burde vært en mye mer detaljert gjennomgang av hvordan systemet fungerer og at føreren må følge med før funksjonen kan aktiveres første gang (i en ny profil). Ikke bare en tekstboks, men noe som krever input fra føreren også for å bevise at han har forstått (quiz f.eks). 

I det minste på norsk er det å 'gøre noe på autopilot' et uttrykk som indikerer at du ikke helt følger med. Jeg tror med andre ord ikke navnebytte vil løse noe som helst. Om noe så er navnet allerede mer dekkende enn vi egentlig liker.  

Angående det andre så er det ikke bare for Tesla sine produkter at folk ikke leser bruksanvisninger. Spesielt for Tesla er kanskje at mange ser ut til å danne seg et inntrykk av hvordan systemet virker ved å høre på løst prat fra andre som *heller* ikke har lest bruksanvisningen. Jeg har fullstendig mistet tellinga over hvor mange ganger jeg har hørt folk spøke med at bilen kan kjøre meg hjem når jeg har tatt noen øl..

 

Jeg tror ikke vi har lyst til å kreve sertifiseringsordninger for at føreren skal aktivere autopilot/propilot/whatever men kanskje bilen kunne lest opp utvalgte gullkorn fra bruksanvisningen hver femte eller tiende gang funksjonen ble aktivert? Utfordringen er selvfølgelig at vi er ganske flinke til å overhøre den typen informasjon..

 

[Tallak Tveide]

Det er jo en ganske spesiell vinkling som ligger og murrer i bunnen av denne saken. Er det slik at Tesla sjåfører er farlige når autopilot er aktivert? Jeg kan selv melde at jeg kjeder med når jeg kjører, og når autopilot slåes på, på en rett og fin vei, er det lettere å la seg friste til distraksjoner som å trykke på betjeningsskjermen, spise eller kikke på mobilen. Så dette må vi vel bare si er en kjensgjerning.

 

MEN

 

Tesla slipper en kvartalsvis rapport som gir veldig gode tall for kjøring med autopilot. Det skurrer veldig for meg at en slik artikkel ikke balanseres ved å nevne at Tesla selv melder om en stor reduksjon i antall ulykker per kilometer med autopilot. Så jeg mener at vi her enten snakker om at Tesla jukser eller opptrer veldig misvisende i rapporten sin her, _ELLER_ at denne artikkelen er dårlig journalistikk med clickbait som i ytterste konsekvens kan koste liv ved å bygge opp et inntrykk av at autopilot er farlig.

Quote

In the 4th quarter, we recorded one crash for every 4.31 million miles driven in which drivers were using Autopilot technology (Autosteer and active safety features). For drivers who were not using Autopilot technology (no Autosteer and active safety features), we recorded one crash for every 1.59 million miles driven. By comparison, NHTSA’s most recent data shows that in the United States there is an automobile crash every 484,000 miles.

Det betyr lite for den som blir påkjørt om bilen var styrt av en datamaskin eller et menneske...

https://www.tesla.com/VehicleSafetyReport

Samtidig vil jeg gi honnør til Tesla som publiserer disse rapportene. Det er et godt eksempel på åpen og proaktiv kommunikasjon.

 

[Complexity]

1 hour ago, uname -i said:

Ja, mest pga refleksjon fra vann. Så hvis du kjører bilen din mye i vannet så er det en fordel.

Edit: Polariserende solbriller er en ulempe når man skal lese tekst på en LCD-skjerm. Så hvis bilen din baserer seg på å kun komme med info på LCD-skjerm så er vanlige solbriller å foretrekke.

Det var vel ett problem før i tiden på fly, og derfor kunne ikke piloter bruke polariserte solbriller.

I dag er skjermer (spesielt i kjøretøy) konstruert slik at man fint kan se dem med polariserte briller.

Det ville vært ramaskrik i media om folk ikke så skjermene i bilene sine med solbriller på.

Endret 12. august 2022 av Complexity

[J-Å]

1 hour ago, Tallak Tveide said:

Samtidig vil jeg gi honnør til Tesla som publiserer disse rapportene. Det er et godt eksempel på åpen og proaktiv kommunikasjon.

Ja, bra. Men jeg savner informasjon om ulykkesratene på gamle, ikke oppdaterte systemer. Siden det var mye færre biler med AP1, vil tallene for disse forsvinne i mengden. Da Tesla brøt med Mobileye (nå Intel ) var AP1 et system med ett kamera og en doppler-radar. Og eldre biler, som den i den omtalte ulykken, kjører fortsatt med det systemet. De nye Intel Mobileye systemene ligner på de nyeste Tesla systemene, de har 11 kamera og ingen radar. Årsaken til at de sløyfer radar er sannsynligvis at den ikke gjenkjenner objekter, og dermed ikke kan skille mellom en bro over veien, et skilt eller en stillestående bil. Alle disse objektene må filtreres bort med et doppler filter. Så da må man uansett ha et kamerasystem og stor prosesseringskapasitet, hvis et stillestående objekt i veibanen skal oppdages. 

Eye5 chipene til Mobileye har en prosesseringskapasitet på 25 TOPS, mens Tesla har en på 76 TOPS. De som sitter i Tesla Model S 2015  er Eye3 med en kapasitet på 0.26 TOPS.

Endret 12. august 2022 av J-Å

[uname -i]

Tallak Tveide skrev (35 minutter siden):

Tesla slipper en kvartalsvis rapport som gir veldig gode tall for kjøring med autopilot. Det skurrer veldig for meg at en slik artikkel ikke balanseres ved å nevne at Tesla selv melder om en stor reduksjon i antall ulykker per kilometer med autopilot. Så jeg mener at vi her enten snakker om at Tesla jukser eller opptrer veldig misvisende i rapporten sin her, _

Du er inne på det. Teslas statistikk på Autopilot er rent juks og bedrag. De sammenligner Autopilot som for det meste er aktivert på motorvei der ulykkesfrekvensen allerede er lav med bykjøring uten Autopilot hvor ulykkesfrekvensen er høy. Sammenlikner man likt for likt for eksempel kjøring på motorvei med og uten Autopilot så er ulykkesfrekvensen lik eller litt høyere med Autopilot. 

Elon Musk says a Tesla on Autopilot is 10 times less likely to crash than the average car, but experts say that stat is misleading

Normalized crash data shows Autopilot is much less safe than Tesla claims

Det må også tas hensyn til at Autopilot-ulykkene ofte er veldig alvorlige. Kollisjon med høy fart og ingen forsøk på unnamanøver eller nedbremsing.

[Serpentbane]

Vi vet ikke hva som har skjedd inne i bilen her. Det ble tidkegere poengtert at forholdene var slik at en ulykke også gjerne kunne ha skjedd selv uten AP. 

Men, for sjåføren blir det naturligvis betimelig å forsøke å flytte skyld bort fra seg selv, selv om det åpenbart er hans ansvar. 

Og, selv om det stemmer, jeg null tro på at denne fyren, eller noen andre som kjører Tesla her i landet, tror at det er et helautomatisk system man kan aktivere og som tar seg av kjøringen helt slik at man ikke behøver å følge med. Henvis til Musk så mye dere vil, og hva barn og bestemødre tror er totalt uvesentlig, men folk vet at man har ansvaret når man kjører bilen. 

Nei, dette handler ikke om kunskap, men om feilbruk av et system. Merkelig nok er det hyling og bersel om forbud her, men ikke om alle andre ting som stjeler oppmerksomhet fra fører. Det er eksempelvis ikke forbud mot bruk av mobil, men sjåføren er nødt til å forholde seg til hvordan den skal brukers. Altså er det sjåføren sin feil at han kommer ut for en ulykke når han leser på mobilen. Om han aktiverer autopilot og leser på mobilen blir ikke problemet plutselig autopilot, problemet er fremdeles sjåføren som leser på mobilen. 

Men, faktum er at, om sjåføren velger å lese på mobilen med autopilot aktivert så kan bilen redde sjåføren fra forskjellige situasjoner. 

Over 13% av alle dødsulykker er knyttet til at folk sovner etc. bak rattet. Ved å kjøre med moderne AP systemer påslått, selv om de krever at sjåføren følger med, så vil man i slike tilfeller ikke kjøre av veien eller komme over i feil fil, men heller ende opp på veiskulderen med nødblinken påslått. Samme med type illebefinnende/slag. 

Folk er uansett uoppmerksome, for eksempel foreldrene som fokuserer på barn i baksetet. Også her vil moderne systemer kunne redde en situasjon som eller kunne, og mange ganger, har gått galt. 

Navnet autopilot er heller ikke problemet. Autopilot er tradisjonelt et system som er langt mindre intelignet enn hva som var i disse bilene tilbake i 2015. Faktisk kan ordet bedre brukes på kombinasjonen filholder og cruise controll. At folk har skapt en egen mening om hva ordet betyr er ikke relevant.

Kommisjonen har i dette tilfellet vist akkurat hva som er realiteten. Systemet gjør det det skal, og sjåføren er ansvarlig. Likt med enhver annen tilsvarende undersøkelse. 

Sjåføren er ansvarlig, og prøve å legge opp til noe annet blir rett og slett feil. 

Vi vet at noen ulykker har skjedd med AP, ofte knyttet til feil bruk. Men, vi vet ikke hvor mange ganger noen har sovnet eller på andre måter blitt satt ut bak rattet og ikke krasjet. Vi vet ikke hvor mage ganger en foreldre har snudd seg tilbake til barna og ikke kommet over i feil kjørefelt. Vi vet ikke hvor mange ganger noen har kikket på mobilen, og ikke kollidert. Og det får vi heller aldri vite. 

Men, det som er 100% sikkert er at under korrekt bruk er disse systemene garantert en enormt forbedring over en sjåfør som kjører alene.

[oophus]

Jens Kr. Kirkebø skrev (4 timer siden):

Men hvordan skal man få til det? Klarer et kamera virkelig å se øynene mine gjennom de mørke, progressive solbrillene jeg vanligvis bruker når jeg kjører bil i sollys?

Finnes firma som mener de har løsningene for slikt hvor man bruker briller. Det inkluderer nok også solbriller. 
F.eks: 
Driver Status Monitor | Products & Services | What we do | DENSO Global Website

[Serpentbane]

uname -i skrev (32 minutter siden):

Du er inne på det. Teslas statistikk på Autopilot er rent juks og bedrag. De sammenligner Autopilot som for det meste er aktivert på motorvei der ulykkesfrekvensen allerede er lav med bykjøring uten Autopilot hvor ulykkesfrekvensen er høy. Sammenlikner man likt for likt for eksempel kjøring på motorvei med og uten Autopilot så er ulykkesfrekvensen lik eller litt høyere med Autopilot. 

Elon Musk says a Tesla on Autopilot is 10 times less likely to crash than the average car, but experts say that stat is misleading

Normalized crash data shows Autopilot is much less safe than Tesla claims

Det må også tas hensyn til at Autopilot-ulykkene ofte er veldig alvorlige. Kollisjon med høy fart og ingen forsøk på unnamanøver eller nedbremsing.

Om du ser på statistikk over Highways i USA er denne ca 1.4 per 100 miles. Tesla sine tall viser 1 per 320 miles eller hva det var. Og selv om det skulle stemme at Tesla AP primært brukes på HW, så er altså tallene fordelaktig for Tesla. 

Du har imidlertid ikke presentert noen tall som faktisk indikerer hvor stor prosentandel av Tesla AP kjøringen som skjer på HW vs annen vei, det bare påstås at det er sånn. 

Edit: Feil tall

Endret 12. august 2022 av Serpentbane