Dødsulykke ved Arendal: - Teslas Autopilot gjorde at føreren var mindre engasjert i kjøreprosessen

[Espen Hugaas Andersen]

1 minute ago, uname -i said:

Dette er statsansatte som tar minste motstands vei. Bedre å lage noen anbefalinger om enda bedre veier enn å ta problemet ved roten. 

Det er fullt mulig de hadde lyst til å skylde på autopiloten, men de har ingen anledning til å gjøre det så lenge den fungerer som tiltenkt.

[uname -i]

Espen Hugaas Andersen skrev (1 minutt siden):

Det er fullt mulig de hadde lyst til å skylde på autopiloten, men de har ingen anledning til å gjøre det så lenge den fungerer som tiltenkt.

Du står fremdeles på at en tiltenkt funksjon ved Autoplioten er å ta livet av uskyldige? Hvor mye Tesla-apologet er det mulig å bli?

Endret 11. august 2022 av uname -i

[John-B]

12 minutes ago, uname -i said:

Dette er statsansatte som tar minste motstands vei. Bedre å lage noen anbefalinger om enda bedre veier enn å ta problemet ved roten. 

Hæ? Minste motstands vei er jo definitivt "Autopilot er skylden!", de har jo noe overaskende tatt den absolutt vanskeligste veien. I 100+ soner er det jo helt horribelt å ikke ha skikkelige veiskuldre, så skjønner godt hvordan det kom til den konklusjonen. Denne ulykken ville jo uansett skjedd om det var store biler i begge feltene siden det da ikke ville vært plass til å svinge unna.

 

Er ingenting galt med Autopilot, men Tesla burde ta 2 grep:

1. Endre navn, slik at folk kan slutte å bruke det som unnskyldning. Autopilot er jo teknisk sett et veldig presist navn på hvordan det fungerer, men det finnes jo idioter som tydeligvis tror at når autopilot aktiveres i et fly kan begge pilotene gå og legge seg til å sove til de har landet.

2. Det burde vært en mye mer detaljert gjennomgang av hvordan systemet fungerer og at føreren må følge med før funksjonen kan aktiveres første gang (i en ny profil). Ikke bare en tekstboks, men noe som krever input fra føreren også for å bevise at han har forstått (quiz f.eks). 

 

9 minutes ago, uname -i said:

Du står fremdeles på at en tiltenkt funksjon ved Autoplioten er å ta livet av uskyldige?

Med den logikken tar Cruise Control livet av utallige personer hvert år, fordi det er den som er ansvarlig for at bilen har fart i ulykkesøyeblikket. 

Endret 11. august 2022 av John-B

[Nautica]

esfets skrev (1 time siden):

Veiene er Norge er av en så dårlig standard at det skal få slike ulykker til før selvkjøring og eventuelt også dataskjerm med noe annet enn fartsvisning forbys i Norge. 

Slik blir det vel helt til selvkjøring er så utbredt i hele Europa at Norge får et EØS skriv om å utbedre veiene. 😁

Hvis dette er/blir lovlig i EU vil det aldri forbys i Norge uansett hvor mange som dauer, vi har innført/godtatt alle forordninger EU har fremlagt og dette blir ingen unntak.

[OlaML]

9 minutes ago, uname -i said:

Du står fremdeles på at en tiltenkt funksjon ved Autoplioten er å ta livet av uskyldige? Hvor mye Tesla-apologet er det mulig å bli?

Det er ikke han som er apologet, det er du som er forvirret av begreper eller gjør deg vrang med vilje. En hvilken som helst cruisekontroll ville også kjørt ned den samme personen, betyr det at alle cruisekontroller har drap som tiltenkt funksjon? Selvsagt ikke, det betyr bare at de ikke eksplisitt støtter det å indirekte gjenkjenne en potensielt farlig situasjon og så sette ned farten, skifte felt, o.l. som man helst burde gjøre som menneskelig sjåfør. Når trailersjåføren ble synlig var det uansett for sent.

Slike påkjørsler har jo skjedd mange ganger før uten førerautomasjon, det er derfor veiskuldre og havarilommer er en del av gode veistandarder verden over. Det er også en av et utall "edge caser" som en selvkjørende bil må håndtere. Det astronomiske antall "edge caser" (nesten så det er flere "caser" langs "edgen" enn i midten...) er den viktigste grunnen til at jeg tror nåtidens idé om selvkjøring er et blindspor.

Man kan bli en mer årvåken sjåfør med dagens førerautomasjon, men det er vel så sannsynlig at man blir verre. Førerautomasjon burde sikte seg mer inn på å forbedre menneskelige sjåfører, ikke erstatte dem.

Tesla-sjåføren fikk forresten 90 dager i fengsel. Virker mildt. Kanskje burde uoppmerksomhet i forbindelse med bruk av førerautomasjon være skjerpende?

[Espen Hugaas Andersen]

32 minutes ago, uname -i said:

Du står fremdeles på at en tiltenkt funksjon ved Autoplioten er å ta livet av uskyldige? Hvor mye Tesla-apologet er det mulig å bli?

Autopiloten er ikke designet til å redde alle liv. Som et eksempel kan den ikke førstehjelp. Man kan bare forvente at den utfører de funksjonene den er designet til å utføre, og redder de livene den kan redde. Men de livene den ikke er designet til å redde kan den ikke redde.

Endret 11. august 2022 av Espen Hugaas Andersen

[DrAlban3000]

Espen Hugaas Andersen skrev (10 minutter siden):

Autopiloten er ikke designet til å redde alle liv. Som et eksempel kan den ikke førstehjelp. Man kan bare forvente at den utfører de funksjonene den er designet til å utføre, og redder de livene den kan redde. Men de livene den ikke er designet til å redde kan den ikke redde.

Autopiloten er vel designet for å stoppe for stillestående objekter? Har noen av dere kjørt på motorvei med AP i Tesla, hvordan synes dere det er med lav sol + flere lastebiler f.eks? Det skal sånn ca ingenting til å avsløre store hull i det systemet, akkurat som alle de andre systemene med kun kamera - som 10 år gamle BMWer osv.

Det er ikke noe mer håpløst over Teslas system enn f.eks en 9 år gammel Honda Accord. Problemet er nok at en fyr med Honda Accord ikke tror han sitter et romskip! En Tesla som skal kunne skifte fil, kjøre selv, følge ruten til kartet og ta rundkjøringer - men har et sub-par sensorsett vil oppleves som utrolig rå, helt til det ikke virker lenger. Sikkerhetsmarginene til andre firmaer er også noe jeg opplever som langt større, på omtrent alt.

Det er dårlige sensorer og kjempegod programvare, og det er ikke noen andre skyld enn sjåføren i dette tilfellet.  Man skal se hvor man kjører med nivå 2.

Endret 11. august 2022 av DrAlban3000

[-Birger-]

Espen Hugaas Andersen skrev (1 time siden):

Men det går ikke liv tapt pga Autopiloten. Det er pga sjåføren, utforming av vei, mm.

Slike systemer reagerer bare hvis sjåføren ikke følger med i det hele tatt. De reagerer ikke hvis sjåføren bare er uengasjert i kjøreprosessen.

Det får f... meg være grenser for å frikjenne Tesla selv om du er fan Espen. Alle andre har feil , inkludert veien. Men TEsla, neida , deres svært misvisende navnsatte Autopilot, den er hellig. Det blir bare patetisk.

[-Birger-]

John-B skrev (52 minutter siden):

Må være en enorm skuffelse for deg at Havarikommisjonen ikke mente Autopilot var årsaken til ulykken? Du bør kanskje be de gjøre grundigere undersøkelser, for de kan jo åpenbart ikke jobben sin?

Problemet her er ikke funksjonaliteten som er en cruise control og støtte for å holde filen.

Problemet er hvordan Tesla gjennom år har presentert dette som noe mye mer enn det er gjennom en navnsetting og reklamering på twitter som gjør at forl tror det er .... automatisk kjøring.

Oppdatert:

Og dette har tyske myndigheter sett på og forbudt navngivingen.
https://www.forbes.com/sites/michaeltaylor/2020/07/14/german-court-bans-tesla-autopilot-name-for-misleading-customers/

Endret 11. august 2022 av -Birger-

[Simen1]

Det er åpenbart et misforhold mellom den jobben autopilot faktisk gjør og den jobben sjåfører gjør. Det finnes et gap der ingen tar ansvar og gjør jobben. Enten må man lukke dette gapet eller så kan man ikke tillate delt ansvar. Siden det ikke finnes noen autopilot nivå 5 i dag så betyr det det at sjåføren må ha 100% ansvar inntil bilen eventuelt en gang i framtida kan overta ansvaret 100%.

Dette sier jeg på generell basis, etter å ha lest om mange autopilot-ulykker og prøvd autopilot selv, så det er ikke spesifikt rettet mot denne dødsulykken. Den føyer seg bare inn i et mønster fra tidligere.

Endret 11. august 2022 av Simen1

[Espen Hugaas Andersen]

2 minutes ago, DrAlban3000 said:

Autopiloten er vel designet for å stoppe for stillestående objekter? Har noen av dere kjørt på motorvei med AP i Tesla, hvordan synes dere det er med lav sol + flere lastebiler f.eks? Det skal sånn ca ingenting til å avsløre store hull i det systemet, akkurat som alle de andre systemene med kun kamera - som 10 år gamle BMWer osv.

Det er dårlige sensorer og kjempegod programvare, og det er ikke noen andre skyld enn sjåføren i dette tilfellet.  Man skal se hvor man kjører med nivå 2.

Jeg mener at utgaven av autopiloten som ble brukt i dette tilfellet er ikke egentlig designet for å stoppe for stillestående objekter. Den er designet for å bremse ned for sakteregående objekter. (Litt forenklet filterer radaren ut alle stillestående objekter, og mater dataene på de objektene som ikke er stillestående til autopiloten. Da unngår man i hovedsak at autopiloten reagerer på skilt, trær, autovern, osv.)

Det kan hende den stopper for stillestående objekter, men det er ikke noe man kan forvente at den gjør.

[Espen Hugaas Andersen]

13 minutes ago, -Birger- said:

Det får f... meg være grenser for å frikjenne Tesla selv om du er fan Espen. Alle andre har feil , inkludert veien. Men TEsla, neida , deres svært misvisende navnsatte Autopilot, den er hellig. Det blir bare patetisk.

Navnet autopilot er jo veldig nøyaktig. Den gjør omtrent det samme som autopiloten på et fly.

Jeg er den første til å kritisere autopiloten for det den gjør dårlig, men det er idioti å gi autopiloten skylden for ting som den ikke har skyld i. (Personlig har jeg i hovedsak sluttet å bruke autopilot pga fantombremsingene. Det er bare enklere og mer komfortabelt å kjøre selv.)

[DrAlban3000]

Espen Hugaas Andersen skrev (9 minutter siden):

Jeg mener at utgaven av autopiloten som ble brukt i dette tilfellet er ikke egentlig designet for å stoppe for stillestående objekter. Den er designet for å bremse ned for sakteregående objekter. (Litt forenklet filterer radaren ut alle stillestående objekter, og mater dataene på de objektene som ikke er stillestående til autopiloten. Da unngår man i hovedsak at autopiloten reagerer på skilt, trær, autovern, osv.)

Det kan hende den stopper for stillestående objekter, men det er ikke noe man kan forvente at den gjør.

Jeg snakker ikke om hva du mener - jeg snakker om Collision Aviodance Assist, som bilen er utstyrt med. Den skal stoppe for stillestående objekter - så hva i alle dager snakker du om? Finner du bare på ting? Det er riktignok et nytt avsnitt etter de har vært i retten etpar ganger, så de nevner alle problemene med kamerabasert system hos Tesla på nettsiden. Sollys er nevnt  

Det er ingen som forventer å unngå alle ulykker, men man er vel ute etter å reise mest mulig sikkert? Da er det andre som gjør en bedre og tryggere jobb, blant annet de med sensorer som får med seg mer av trafikkbilde.

Fra Tesla:

"Obstacle-Aware Acceleration is designed to reduce the impact of a collision by reducing motor torque and in some cases applying the brakes, if Model S detects an object in its driving path. "

Endret 11. august 2022 av DrAlban3000

[uname -i]

John-B skrev (1 time siden):

Er ingenting galt med Autopilot, men Tesla burde ta 2 grep:

Dette systemet klarer beviselig ikke å vite om sjåføren følger med, det klarer ikke å kjenne igjen veiarbeid, eller semitrailere på 50 tonn og du mener det er perfekt som det er. 

Jøje meg.

[uname -i]

Espen Hugaas Andersen skrev (12 minutter siden):

Jeg er den første til å kritisere autopiloten for det den gjør dårlig, men det er idioti å gi autopiloten skylden for ting som den ikke har skyld i. (Personlig har jeg i hovedsak sluttet å bruke autopilot pga fantombremsingene. Det er bare enklere og mer komfortabelt å kjøre selv.)

Disse etterhvert veldig mange dødsulykkene hadde ikke skjedd om bilen ikke kjørte på Autopilot. Og mens likene tårner seg opp så trommer du opp den ene unnskyldningen etter den andre.

[OlaML]

5 minutes ago, DrAlban3000 said:

Jeg snakker ikke om hva du mener - jeg snakker om Collision Aviodance Assist, som bilen er utstyrt med. Den skal stoppe for stillestående objekter - så hva i alle dager snakker du om? Finner du bare på ting? Det er riktignok et nytt avsnitt etter de har vært i retten etpar ganger, så de nevner alle problemene med kamerabasert system hos Tesla på nettsiden. Sollys er nevnt  

Det er ingen som forventer å unngå alle ulykker, men man er vel ute etter å reise mest mulig sikkert? Da er det andre som gjør en bedre og tryggere jobb, blant annet de med sensorer som får med seg mer av trafikkbilde.

Fra Tesla:

"Obstacle-Aware Acceleration is designed to reduce the impact of a collision by reducing motor torque and in some cases applying the brakes, if Model S detects an object in its driving path. "

Lastebilen sto ikke midt i veien, noe som må til for at Collision Aviodance Assist skal slå inn. Veikanten er jo ellers full av stillestående objekter som skilt, autovern, parkerte biler, trær osv. Hvis bilen stoppet for alle stillestående objekter en person kunne sprette ut fra, så ville den jo bare stoppe dønn med en gang man aktiverte den.

[Espen Hugaas Andersen]

4 minutes ago, DrAlban3000 said:

Jeg snakker ikke om hva du mener - jeg snakker om Collision Aviodance Assist, som bilen er utstyrt med. Den skal stoppe for stillestående objekter - så hva i alle dager snakker du om? Finner du bare på ting? Det er riktignok et nytt avsnitt etter de har vært i retten etpar ganger, så de nevner alle problemene med kamerabasert system hos Tesla på nettsiden. Sollys er nevnt  

Det er ingen som forventer å unngå alle ulykker, men man er vel ute etter å reise mest mulig sikkert? Da er det andre som gjør en bedre og tryggere jobb, blant annet de med sensorer som får med seg mer av trafikkbilde.

Fra Tesla:

"Obstacle-Aware Acceleration is designed to reduce the impact of a collision by reducing motor torque and in some cases applying the brakes, if Model S detects an object in its driving path. "

De aktive elementene av collision avoidance assist består av AEB og obstacle-aware acceleration.

AEB, slik jeg husker den, vil kunne redusere hastigheten med noen titalls km/t, etter bilen mener en ulykke er uungåelig, men den vil sjeldent redusere til null.

Obstacle-aware acceleration baserer seg på parkeringssensorene. Om parkeringssensorene registrerer et objekt rett foran bilen reduserer den tilgjengelig effekt kraftig. Det er i hovedsak innført for å redusere konsekvensene av at folk tar feil av gasspedal og bremsepedal (pedalforvirring) og kjører bilen sin inn i vegger og butikker og slikt. Man vil fortsatt overstyre den ved å fortsette å presse pedalen, men det er en forskjell på å treffe en vegg i 20 km/t vs 50 km/t.

Det folk kaller autopilot er i hovedsak TACC og lane assist, på noen år gammel Model S. Radar-basert TACC vil i hovedsak ikke stoppe for stillestående objekter.

[DrAlban3000]

OlaML skrev (1 minutt siden):

Lastebilen sto ikke midt i veien, noe som må til for at Collision Aviodance Assist skal slå inn. Veikanten er jo ellers full av stillestående objekter som skilt, autovern, parkerte biler, trær osv. Hvis bilen stoppet for alle stillestående objekter en person kunne sprette ut fra, så ville den jo bare stoppe dønn med en gang man aktiverte den.

Jeg sier at det er sjåføren sin feil 100%, og det er det ingen som helst tvil om. Han har krasja fordi han ikke fulgte med.

Det jeg skal frem til er hvor dårlig ACC Tesla egentlig har, og som du nevner så er disse funksjonene omtrent ikke verdt noe som helst. Systemet ser rett og slett alt for lite av det som foregår for å fungere som tiltenkt, og det bør heller tas ekstra ansvar bak rattet - og ikke slik som idag hvor det brukes som førererstatning.

Et parti av E18 jeg kjører på har 3 felt, hvor avkjøringsfeltet blir ganske trangt et sted. Der merker jeg at ACC ikke vil passere på høyre (som er et valg jeg kan stille) Om jeg møter biler som skjener litt der bremser bilen min. Om jeg ser en annen vei og kjører inn i det partiet sier bilen at jeg skal følge med ekstra og viser et rødt tegn - smal kjørebane. Om noen står i en veilomme imellom kjørefeltene litt feil så får jeg oppbremsing, til tross for at det fysisk er plass - de gangene pleier jeg å manuelt kjøre, da det ikke er noen systemer som klarer dette effektivt uansett. Høres fantastisk ut? Det er et helt ok system fra 2016.

[Espen Hugaas Andersen]

3 minutes ago, uname -i said:

Dette er objekttivt feil. Det var nettopp to forferdelige dødsulykker i USA hvor Tesla på Autopilot meide dem ned i samme fil. De var ikke stillestående.

Nå snakket jeg først og fremst om kjøretøy. Det må være objekter med en betydelig radarsignatur.

[Nautica]

Ble det til at bilprodusentene er fritatt for søksmål forårsaket av autopiloter i USA/EU ?

Vi har jo lignende fritak for bla. covid-vaksine.

Endret 11. august 2022 av Nautica