Dødsulykke ved Arendal: - Teslas Autopilot gjorde at føreren var mindre engasjert i kjøreprosessen

[Trestein]

Salvesen. skrev (2 minutter siden):

Ja det stemmer, de har vell laget en nivå 3 sak som er veeeeldig begrenset. Aldri sett noen bruke det utenfor promo/test greier så kan ikke være store bruksområdet. Lurer på om cadilac også har noe tilsvarende, litt usikker.

Ja veldig begrenset men sikkert praktisk om du står i kø på autobahn hver morgen for å komme på jobb. Da kan man jobbe eller gjøre andre ting mens bilen lirker seg fremover. Åpner noen en dør for å tømme askebeger el henter noe i bagasjerom er det ikke ditt problem om bilen kjører på dem

Det er godt mulig at cadilac super cruise gir deg lov til det samme, men jeg tror den kun gir lov til å ta hendene av rattet om fu ser fremover 

Volvo har også sagt at de skal ta ansvar for bilens handlinger men har ikke hørt at det er ute ennå

[Salvesen.]

Trestein skrev (2 minutter siden):

Ja veldig begrenset men sikkert praktisk om du står i kø på autobahn hver morgen for å komme på jobb. Da kan man jobbe eller gjøre andre ting mens bilen lirker seg fremover. Åpner noen en dør for å tømme askebeger el henter noe i bagasjerom er det ikke ditt problem om bilen kjører på dem

Det er godt mulig at cadilac super cruise gir deg lov til det samme, men jeg tror den kun gir lov til å ta hendene av rattet om fu ser fremover 

Volvo har også sagt at de skal ta ansvar for bilens handlinger men har ikke hørt at det er ute ennå

Ja skulle gjerne hatt det selv, men hadde ikke gjort noen nytte da jeg ikke har noen motorvei i nærheten. 

Mulig rett det med cadillac, at en må ha øynene på veien. 

[oophus]

Salvesen. skrev (24 minutter siden):

Dette gjør jo alle systemene i dag, i X antall sekund. Men jeg har ikke fått med meg at noen tar ansvar?

Det er jo det som diskuteres? Slikt har vist seg å bli et problem, og det problemet vil kun eskalere om det ikke gjøres noe med.  

[oophus]

Salvesen. skrev (18 minutter siden):

Ja det stemmer, de har vell laget en nivå 3 sak som er veeeeldig begrenset. Aldri sett noen bruke det utenfor promo/test greier så kan ikke være store bruksområdet. Lurer på om cadilac også har noe tilsvarende, litt usikker.

Begrenset fordi de står ansvarlig.  Så da vet vi jo at funksjoner på dette nivået i mye større grad testes før det slippes.  

Teknologien er ikke bra nok til at vi burde kunne slippe rattet, uansett hvor mange sekunder det er snakk om.  Ergo burde nivå 2 kun omhandle autonomi i 1 akse.  Den siste kan komme på nivå 3 og oppover.  

[DrAlban3000]

Salvesen. skrev (1 time siden):

Ja det stemmer, de har vell laget en nivå 3 sak som er veeeeldig begrenset. Aldri sett noen bruke det utenfor promo/test greier så kan ikke være store bruksområdet. Lurer på om cadilac også har noe tilsvarende, litt usikker.

Begrenset av tyske myndigheter. Bør kanskje nevnes i denne sammenheng. Det spørs om ikke det er den riktige måten å gjøre dette på, utrolig forsiktig. Med MB i spissen (og BMW i år) setter de nok en gang standard i klassen. Dette er to år etter MB meddelte at de ikke satset på det. Regelendringene er lovet å slippe opp, men jeg har ingen data på hvordan dette egentlig går. Det er som du nevner veldig begrenset - men det har lite med MB å gjøre, mest sannsynlig lysår foran det aller meste på veiene.

Cadillac Supercruise er også level 3 på visse  prøvestrekninger i USA om jeg forsto det rett.

Denne forsiktige holdningen er vel det folk med Tesla hater (?). Jeg skjønner ikke hva disse tech-gutta ikke liker med dette egentlig.

Endret 15. august 2022 av DrAlban3000

[Markiii]

oophus skrev (6 timer siden):

Er dette samt alle de andre tilsvarende testene også propaganda da eller? 

 

Vel... ja:

https://brandonpaddock.substack.com/p/does-tesla-have-a-pedestrian-problem-part-1

https://brandonpaddock.substack.com/p/does-tesla-have-a-pedestrian-problem-pt2

Å bruke falske og manipulerte tester fra konkurrenter fremstår svært lite redelig.

[Markiii]

oophus skrev (6 timer siden):

Personlig trur jeg ADAS på nivå 2 må fjerne muligheten for kontroll av styring. Det ligger null grunn til at man skal kunne slippe rattet, uansett i hvor mange sekunder det er som en "luksus-funksjon".

Helt uenig. Hvis bilen holder farten, bør den også kunne holde seg innenfor nåværende fil. Ellers vil den krasje ved f.eks. et illebefinnende.

Man får heller sørge for at folk holder hendene på rattet hvis det er det som er problemet. Å fjerne bilens mulighet til å styre selv vil være livsfarlig.

[oophus]

Markiii skrev (37 minutter siden):

oophus skrev (7 timer siden):

Er dette samt alle de andre tilsvarende testene også propaganda da eller? 

 

Vis sitat  

Vel... ja:

Den videoen du siterte er ikke fra Dan O'Dowd, og det er flere av slike tester der resultatene er de samme. Så hva er beviset for at dette er falsk? 
 

Man ser igrunn et av problemene der. Selv når bilen har stått stille og "kikket" på ungene som går frem og tilbake, så mister bilen oversikt og illustrer ikke barna/menneskene korrekt. De hopper ut og inn, blir plassert rart med feil fart o.l. Om bilen ikke klarer å fastsette slikt når den har oversikt 100% av tiden over tid, hvordan trur du dette vil se ut i fart? Alt handler om sannsynlighet, og selv om bilen kan se barnet punktvis, så er det nok at det er usikkerhet der til at et uhell kan skje.  IIHS tester kan fint "games", og maskinlæring kan også fint gjøre ting verre mellom hver OTA oppdatering. Der ligger jo også en av diskusjonene mellom sikkerhetsorganisjoner og Tesla rundt OTA for sikkerhetskritiske systemer. 

Det er flere videoer ute på dette, men vi tar disse først.  

Endret 15. august 2022 av oophus

[qualbeen]

Markiii skrev (24 minutter siden):

Helt uenig. Hvis bilen holder farten, bør den også kunne holde seg innenfor nåværende fil. Ellers vil den krasje ved f.eks. et illebefinnende.

Man får heller sørge for at folk holder hendene på rattet hvis det er det som er problemet. Å fjerne bilens mulighet til å styre selv vil være livsfarlig.

Joda, men dersom du får et illebefinnende og slipper rattet, så er det vel bedre at bilen stopper kontrollert på veiskulder*, enn å bare cruise videre helt frem til destinasjonen?

Begge alternativene mine krever at bilen kontrollerer fart og styring, vet hvor veien befinner seg og kan lese trafikkbildet. Men kun det ene alternativet ville vært brukt under normal kjøring (og på sikt kanskje muliggjort sløve sjåfører?). 

*Nødstopp på veiskulder anbefales riktignok ikke på norske motorveier. Her er det satt av såpass liten plass at dødsulykker som denne tråden egentlig handler om, kan inntreffe. 

[oophus]

Markiii skrev (35 minutter siden):

Helt uenig. Hvis bilen holder farten, bør den også kunne holde seg innenfor nåværende fil. Ellers vil den krasje ved f.eks. et illebefinnende.

Man får heller sørge for at folk holder hendene på rattet hvis det er det som er problemet. Å fjerne bilens mulighet til å styre selv vil være livsfarlig.

Jeg har skrevet om det over flere poster, så du går litt glipp av ting der. Det er forskjell mellom ADAS og backup sikkerhetssystemer. De kan selvfølgelig få lov til å justere deg om du er på vei ut av veibanen, eller prøver å blinke samt svinge ut i en fil som er opptatt av en annen bil osv. 

Sikkerhetssystemer er det bare fint at man har, og de skal være påslått hele tiden i bakgrunnen. Ting som AEB er i stadig forbedring som et eksempel, og slikt vil redde folk for både bulker og eventuelle liv, og selv om vi har hatt AEB ei god stund, så er det ikke før nå nylig at man må ha slikt for å få full pott hos f.eks EuroNCAP. Ved neste instans så vurderer EuroNCAP å innføre V2V AEB testing også, siden det er noen bilprodusenter som implementerer V2V systemer. 
Samme tendens kan vi jo forvente av ulike sikkerhetssystemer som berører styring - som f.eks det å bremse ned og parkere på veiskulderen om noen har fått ei illebefinnende. Dog alt dette inngår ikke innad i nivå 2 "selvkjøring". Tiden bilen utfører DDT signaler er for korte til at de defineres som assister. Dette er sikkerhetssystemer. 

Endret 15. august 2022 av oophus

[Markiii]

oophus skrev (1 time siden):

Den videoen du siterte er ikke fra Dan O'Dowd, og det er flere av slike tester der resultatene er de samme. Så hva er beviset for at dette er falsk? 
 

Man ser igrunn et av problemene der. Selv når bilen har stått stille og "kikket" på ungene som går frem og tilbake, så mister bilen oversikt og illustrer ikke barna/menneskene korrekt. De hopper ut og inn, blir plassert rart med feil fart o.l. Om bilen ikke klarer å fastsette slikt når den har oversikt 100% av tiden over tid, hvordan trur du dette vil se ut i fart? Alt handler om sannsynlighet, og selv om bilen kan se barnet punktvis, så er det nok at det er usikkerhet der til at et uhell kan skje.  IIHS tester kan fint "games", og maskinlæring kan også fint gjøre ting verre mellom hver OTA oppdatering. Der ligger jo også en av diskusjonene mellom sikkerhetsorganisjoner og Tesla rundt OTA for sikkerhetskritiske systemer. 

Det er flere videoer ute på dette, men vi tar disse først.  

Videoen er brukt for å støtte bløffen til O'Dowd. Poenget er at alle disse videoene er manipulert for å lure folk til å tro at ting er annerledes enn de egentlig er.

Problemet du påstår er der, er ikke nødvendigvis et problem. Bilen ser mye mer enn den visualiserer. Når det bare er en stillestående dukke så ser bilen det fortsatt, men identifiserer det ikke som et menneske siden det ikke oppfører seg som et menneske.

Og "barnet" i videoen din ligner ikke på et barn engang, bare på en haug med skrot.

[Markiii]

qualbeen skrev (1 time siden):

Joda, men dersom du får et illebefinnende og slipper rattet, så er det vel bedre at bilen stopper kontrollert på veiskulder*, enn å bare cruise videre helt frem til destinasjonen?

Det er det Autpilot gjør. Den holder fil og fart, og varsler fører. Hvis fører ikke responderer, så stopper bilen av seg selv til slutt med nødblinkere på. Mye tryggere enn at bilen bare skjener avgårde i en eller annen retning og krasjer.

[oophus]

Markiii skrev (2 minutter siden):

Videoen er brukt for å støtte bløffen til O'Dowd.

På hvilken måte er den det? Slike tester er blitt utført i lange perioder i Kina, og dette er kun én av dem. 

Markiii skrev (4 minutter siden):

Poenget er at alle disse videoene er manipulert for å lure folk til å tro at ting er annerledes enn de egentlig er.

Du ser foten til fyren i den ene videoen, og du ser at han aktiverer AP. Hvordan mener du at videoene er manipulert? 
Er denne manipulert også? 

Det er en test utført av President and Founder Tesla Owners Club of Michigan - @DirtyTesla. Er han også en del av konspirasjonen, selv om 99% av innholdet hans er å "pumpe" Tesla for aksjens del?

 

Markiii skrev (8 minutter siden):

Og "barnet" i videoen din ligner ikke på et barn engang, bare på en haug med skrot.

Så en Tesla bremser ikke for en haug med skrot på størrelse med et barn? 
 

[oophus]

Markiii skrev (8 minutter siden):

Det er det Autpilot gjør. Den holder fil og fart, og varsler fører. Hvis fører ikke responderer, så stopper bilen av seg selv til slutt med nødblinkere på. Mye tryggere enn at bilen bare skjener avgårde i en eller annen retning og krasjer.

Les det jeg skriver. Det er forskjell mellom ADAS og sikkerhetssystemer som AEB. Mitt argument er at ting som inkluderer DDT mot styring kun burde omhandler sikkerhetssystemer, og ikke ADAS. Teknologien har vist seg å være for dårlig, og folk mister konsentrasjonen i større grad enn nødvendig. Dog vi er ikke engang der for FSB Beta, der skjer ting som dette til stadighet: 
 

Et perfekt eksempel på hvorfor dette er idioti og kun tøys. Ei blind sving, og bilen kjører seg ut i den andre filen kun fordi idioten bak rattet heller prøver å "følge ekstremt godt med" fremfor å styre selv, som ville vært mye mindre stressende og sikrere. 

[Trestein]

Det er rimelig tydelig at tesla har problemer med å gjennkjenne gjenstander. Rart å se FSD videoer der barn blir hunder og for så å forsvinne. Samtidig dukker det opp biler som ikke er der osv. At dette om få måneder skal nå nivå 5 er like sannsynlig som at vår måne flytter seg til mars

Endret 15. august 2022 av Trestein
staving

[Kahuna]

DrAlban3000 skrev (14 timer siden):

Denne forsiktige holdningen er vel det folk med Tesla hater (?). Jeg skjønner ikke hva disse tech-gutta ikke liker med dette egentlig.

Er det egentlig forsiktig? I følge Teslas egen statistikk er det å kjøre med Autopilot påslått 10 ganger tryggere enn å kjøre en gjennomsnittsbil. Noe som betyr at for hver gang noen dør fordi Autopilot ikke er perfekt, så unngår vi 10 dødsfall fordi den gjør en god jobb.. Er den ene viktigere enn de 10?

[DrAlban3000]

Kahuna skrev (13 minutter siden):

Er det egentlig forsiktig? I følge Teslas egen statistikk er det å kjøre med Autopilot påslått 10 ganger tryggere enn å kjøre en gjennomsnittsbil. Noe som betyr at for hver gang noen dør fordi Autopilot ikke er perfekt, så unngår vi 10 dødsfall fordi den gjør en god jobb.. Er den ene viktigere enn de 10?

Tja, godt spørsmål. Tesla er i retten fordi de skrur av AP rett før det smeller - så de kan selge deg den statistikken. Å da bruke samme statistikk som noen mal før rettsaken er over blir feil, det kan like gjerne være motsatt. Jeg mener, skal vi ta alle utsagn derfra like seriøst? Da hadde jeg hadd FSD allerede, men det har jeg ikke. Jeg har en bil hvor dette ble lovet, men nå er det ikke en gang mulig.

Så, jeg tar Tesla ut av beregningen her. Hvordan skal man implementere selvkjøring? Det jeg anså som smart var ihvertfall å la noe voksne gjør det - og slik det gjøres nå virker smart. I 60kmt eller mindre er skadepotensiale ganske lite, det er også større sjanse for å kunne ta over selv om noe skjer. Bilene er oppsatt med sensorer som kan oppfatte langt mer av trafikkbilde enn andre systemer.

Så vil jeg anta de bruker disse data til å forbedre og utvide etterhvert. Noen strekker er åpnet i USA nå også, sikkert for å reklamere for DrivePilot der borte.

Endret 16. august 2022 av DrAlban3000

[The Avatar]

Markiii skrev (11 timer siden):

Bilen ser mye mer enn den visualiserer. Når det bare er en stillestående dukke så ser bilen det fortsatt, men identifiserer det ikke som et menneske siden det ikke oppfører seg som et menneske.

Det fleste køyreassistansesystem er i stand til å detektere ting som er framfor bilen. Det som er den tekniske utfordringa er å ha sikker nok identifikasjon og tidleg nok identifikasjon til at bilen skal gjere grep.

Ein (delvis) sjølvkøyrande bil bør sjølvsagt kunne bråbremse om det er ein person i vegbana, og aller helst sjølvsagt oppdage personen så tidleg at bilen kan foreta fartsavpassing og eventuelt feltbytte slik at ein slepp bråbremsing.
Utfordringa er at bråbremsing eller fantombremsing når det ikkje er ein fare også er farleg. Så med mindre det er snakk om veldig lav hastigheit så kan ikkje bilen bruke føre var prinsippet. Bilen må ha ein sikker identifikasjon, ikkje nødvendigvis at det er 100% sikkert at det er eit barn, men som minimum at det med høg sannsynlegheit er ein fysisk gjenstand i bana, og ikkje eit insekt som passerer heilt inntil sensoren slik at bilen bråbremsar.

[oophus]

Kahuna skrev (1 time siden):

Er det egentlig forsiktig? I følge Teslas egen statistikk er det å kjøre med Autopilot påslått 10 ganger tryggere enn å kjøre en gjennomsnittsbil. Noe som betyr at for hver gang noen dør fordi Autopilot ikke er perfekt, så unngår vi 10 dødsfall fordi den gjør en god jobb.. Er den ene viktigere enn de 10?

Autopilot brukes der det også er mange ganger mindre sannsynlighet for uhell. I følge denne som nok matcher generell data på det, så er 52% av ulykkene der allerede før 5 minutter med ferdsel er foregått fra hjemmet. 77% av ulykkene kommer mellom 0 og 25km. En stor majoritet av ulykkene vil være på lokasjoner, situasjoner og steder hvor AP ikke utnyttes. Der AP utnyttes så vil uhellene være betydelig større i skadeomfang fordi hastighetene er større. 

Det vi diskuterer her, er forsåvidt ikke Autopilot og FSD men AEB. Et system som skal være påslått kontinuerlig uansett om AP/FSD er på eller ikke. Reagerer ikke AEB mot bikkjer, eller barn, så vil jo ikke AP eller FSD gjøre det heller. 

[Hanhijnn]

The Avatar skrev (1 time siden):

Ein (delvis) sjølvkøyrande bil

Hvilket selvkjøringsnivå tenker du på her? 

Er dette på noen måte relatert til denne saken/artikkelen?

Endret 16. august 2022 av Hanhijnn