Teslas selvkjøringssystem granskes av myndighetene

[KriZZ]

sverreb skrev (59 minutter siden):

Fordi denne cruisekontrollen later til å bli brukt på feil måte, med negative utfall som konsekvens.

En probe fra myndighetene vil presumptivt omhandle både hva slags kommunikasjon tesla har i sammenheng med markedsføringen av denne ADAS mekanismen, og hvorvidt tesla har vært sitt ansvar bevisst i å hindre misbruk i utformingen.

Fundamentalt sett kan en produsent være delansvarlig for brukerens misbruk om misbruket er eller burde vært forutsigbart, og produsenten har eller burde hatt evne til å hindre slikt forutsigbart misbruk ved å designe anneledes. En disclaimer er gjerne i så måte ikke tilstrekkelig. Vi er alle kondisjonert til å ignorere slike.

Markedsføringsdelen har blitt diskutert ovenfor, det trenger vi ikke gå over igjen, men spørsmål om de tekniske egenskapene kan være hvorfor systemet ikke er geofencet slik andre bilprodusenter gjør, hvorvidt systemet er tilstrekkelig testet før det slippes til sluttbrukere, og hvorvidt systemet i tilstrekkelig grad sikrer seg at sjåføren følger med. Man kan også komme inn på detaljer omkring hvordan systemet brukes og i hvilken grad det innbyr til samhandling eller at systemet gir inntrykk av å ta helt over.

NHTSA er ikke media.

Alt blir brukt på feil måte, folk kjører ruset, folk kjører mens de holder på med andre ting og folk bryter trafikkregler hver enste dag.
Dette er ikke bilprodusentene sin skyld.

Tesla autopilot hadde  etter siste tall en ulykke pr 4,19 millioner miles kjørt
Biler uten autopilot hadde 1 ulykke pr 484 000 miles kjørt ifølge NHTSA sine siste data.


Jeg sa aldri at NHTSA er media, men media tjener penger på reklame og de største inntektene deres kommer fra de store gamle bilprodusentene, de har aldri fått et øre av Tesla å gjør alt for å trykke de ned og fremme de største kundene sine og ha en sikker strøm med penger inn i kassen.


Alt blir blåst ut av proposjoner og du skal se at dette også er er storm i et vannglass hvor fører ene og alene er skyld i disse ulykkene.



Velger jeg å sette meg i en Toyota ravende dritings og kjører i hjel en stakkar, så kan jeg ikke skylde på Toyota som ikke har sikret bilene sine mot kjøring i påvirket tilstand.



Når FSD faktisk er sluppet og bilene markedsført og solgt som fullstendig selvkjørende ville saken naturligvis vært noe helt annet, men det er ikke tilfellet. Autopilot er en assistent i samme sjanger som cruisekontroll og adaptiv cruisekontroll.

 

[sverreb]

6 minutes ago, KriZZ said:

Alt blir brukt på feil måte, folk kjører ruset, folk kjører mens de holder på med andre ting og folk bryter trafikkregler hver enste dag.
Dette er ikke bilprodusentene sin skyld.

Det kommer an på. En bilprodusent som hadde latt infotainmentsystemet vist youtubevideoer under kjøring kunne f.eks blitt medskyldig om dette så viser seg å hadde  blitt misbrukt og ført til en ulykke nettopp fordi et slikt misbruk er forutsigbart og bilprodusenten enkelt kunne hindret misbruket.

Tilsvarende kan forutsigbart misbrukt av ADAS systemer også bli bilprodusentens ansvar. Dette er en del av hva NHTSA trenger å få klarhet i.

[uname -i]

KriZZ skrev (13 minutter siden):

Velger jeg å sette meg i en Toyota ravende dritings og kjører i hjel en stakkar, så kan jeg ikke skylde på Toyota som ikke har sikret bilene sine mot kjøring i påvirket tilstand.

Hvis Toyota gjennom uttalelser, markedsføring og videodemonstrasjoner påstod at man fint kunne kjøre bilene dems dritings, så vil jeg si at de hadde hatt et medansvar, ja.

[oophus]

KriZZ skrev (18 minutter siden):

Tesla autopilot hadde  etter siste tall en ulykke pr 4,19 millioner miles kjørt
Biler uten autopilot hadde 1 ulykke pr 484 000 miles kjørt ifølge NHTSA sine siste data.

Det er like farlig å bruke missvisende data for å lulle sine kunder i en falsk trygghet. 

Fint forklart og bevist her:

Videoen skal starte fra 20:03. Hvis ikke spol dit. 

[KriZZ]

uname -i skrev (11 minutter siden):

Hvis Toyota gjennom uttalelser, markedsføring og videodemonstrasjoner påstod at man fint kunne kjøre bilene dems dritings, så vil jeg si at de hadde hatt et medansvar, ja.

Autopilotens avanserte sikkerhets- og bekvemmelighetsfunksjoner er utformet for å assistere deg med de mest anstrengende delene av kjøringen.

[AJ830V5V]

mr. papp skrev (På 17.8.2021 den 11.20):

Jeg mener at kreftene du må bruke på rattet for å "ta over" og deaktivere autosteer kjennes mye mindre ut når det gule varselet om å være ekstra på vakt er der. Dette er på en pre-raven TMX med nyeste AP-hardware. Har ikke kjørt TM3 nok enda til å si om det er det samme der.

Noe annet er at hvis bilen reduserer farten inn mot en sving for eksempel, så holder det gå trykke litt på gassen et halvt sekund eller noe, så kanselleres fartsreduksjonen og bilen aksellererer opp til "satt fart" igjen umiddelbart selv om du slipper gassen igjen. 

Ok, det jeg har opplevd av APs tvil er ved splitting av kjørefelt. Her kastet bilen seg to ganger til hver side før AP koblet ut. Også siste HW før raven. Ellers gassen moderat trykket ned for å redusere antall fantombremsinger og feil oppfattelse av fartsgrenser.

[oophus]

KriZZ skrev (34 minutter siden):

Autopilotens avanserte sikkerhets- og bekvemmelighetsfunksjoner er utformet for å assistere deg med de mest anstrengende delene av kjøringen.

Omvendt. Den minst anstrengende delene av kjøringen foregår der det er minst uhell og ulykker. På motorveiene. Det er også derfor det er misvisende å sammenligne ulykker som tar for seg hele ferden fra A til B i den generelle bilflåten, mot AP som kun aktiveres der sjanser for uhell er minst fra før av. 

Som sagt så tar videoen opp temaet på en god måte og illustrerer juks i statistikken:

Uhell har størst sannsynlighet for å inntreffe i starten og slutten av de fleste kjøreturer. Når man så aktiverer AP så sammenligner man kun den delen med minst uhell mot hele A til B turer. Når uhell forekommer her der AP kan aktiveres, så er de gjerne større, slik at det blir feil å sammenligne AP uhell som ofte inkluderer store skader og død mot uhell i den generelle skadestatistikken som inkluderer mest småbulker på parkeringsplasser o.l. der AP uansett ikke fungerer. 

Endret 18. august 2021 av oophus

[MrMarbles]

Skulle likt å vite antall dødsulykker med AP 1 vs. AP2.x/AP3. AP1 bremser ikke for stasjonære objekter, men det gjør AP2.x/3 i en mye større grad.

[uname -i]

Husker det var noe veiarbeid nedi Vestfold. Noe sånt som 3 av 4 biler som braset inn i sperringen var Teslaer. Med tanke på at under 3% av bilparken er Teslaer så tror jeg det ikke er noen tilfeldighet.

Og da blir det rimelig akademisk påstanden om at sjåføren har det fulle ansvaret. I et trafikksikkerhetspersektiv så har man et problem med disse kjøretøyene og det er nettopp det amerikanske transportmyndigheter prøver å finne ut hva er. Så er det et spørsmål  hvor mange år(og nye dødsulykker) de skal bruke for å komme til det som bør være en åpenbar konklusjon.

[oophus]

https://www.autonews.com/regulation-safety/senators-urge-ftc-probe-tesla-over-self-driving-claims

Flere folk som våkner opp? 

[bojangles]

Det blir som tidligere vel? Det er jo ikke første gang Tesla har blitt etterforsket. Det ble blant annet satt igang etterforskning etter noen Tesla branner. Slått stort opp og når etterforskningen var ferdig viste det seg vel at ICE kjøretøy brenner 11 ganger oftere enn Tesla. 

Også etterforskning av Tesla autopilot. Utfallet ble at det ikke var Tesla's skyld at det ble ulykker. 

Om en tar antall kjørte kilometer på fsd uten ulykker kontra normalen så er vel Tesla fsd omtrent ti ganger bedre en hvermansen. Det er betydelig flere kjørte kilometer mellom hver gang det er ulykker i Tesla. 

Her i denne saken er det ikke lagt frem noen tall å sammenlikne med. Hvor ofte kjører folk som ikke kjører Tesla inn i kjøretøy med blinkende lys på taket? Slikt skjer også i Norge. Og det skjedde lenge før Tesla. Er Tesla verstingen? Vi får se hva rapporten sier. Men jeg tenker vel at dette glir over og blir nok et tilfelle av FUD. 

[oophus]

bojangles skrev (2 timer siden):

Om en tar antall kjørte kilometer på fsd uten ulykker kontra normalen så er vel Tesla fsd omtrent ti ganger bedre en hvermansen. Det er betydelig flere kjørte kilometer mellom hver gang det er ulykker i Tesla. 

Se posten her: 

 

bojangles skrev (2 timer siden):

Er Tesla verstingen? Vi får se hva rapporten sier. Men jeg tenker vel at dette glir over og blir nok et tilfelle av FUD. 

ENCAP skårer Tesla veldig dårlig der i måten ADAS er implementert på. Så ja, en kan nok si at Tesla er verst der.

 

Endret 18. august 2021 av oophus

[Complexity]

the 11 incidents included: 2 cases of DUI, 1 suspended license, 4 cases of driver inattention (of which one charged with reckless driving) and 4 unknown circumstances (i.e. no police report readily available).

https://mobile.twitter.com/kaczjef303/status/1427574524481003546

01/22/2018 = Autopilot engaged, "Driver inattention", system did not detect driver hands on wheel for 3 minutes and 41 seconds

https://mobile.twitter.com/kaczjef303/status/1427312416799567880

[oophus]

http://hal.pratt.duke.edu/sites/hal.pratt.duke.edu/files/u43/IEEE_Tesla_final.pdf

Denne er også interessant. Den peker blant annet mot at OTA må kontrolleres og undersøkes før man kan oppdatere bilene, ettersom resultatene mellom "oppgraderingene" ofte gjør at enkelte ting man tidligere hadde god kontroll over plutselig blir dårligere. Da er det ekstremt farlig med dårlig fører monitoring når personer som i årevis har kjørt sin rute til jobb plutselig får en oppdatering som gjør at den turen ikke løses på samme måte. 


Det beste burde kanskje være å lage mer omfattende ADAS tester og at hver oppdatering må klare dem før de kan få "gå på lufta". Litt som førerkortet bare mot fører assister og autonomi. 

Samt mål med testen må oppdateres årlig, litt slik NCAP oppdateres for å nå maks score. 

Endret 18. august 2021 av oophus

[oophus]

@Complexity Virker som om du ikke aner hva NHTSA undersøker? 
 

https://static.nhtsa.gov/odi/inv/2021/INOA-PE21020-1893.PDF
"The investigation will assess the technologies and methods used to monitor, assist, and enforce the driver's engagement with the dynamic driving task during Autopilot operation. The investigation will additionally assess the OEDR by vehicles when engaged in Autopilot mode, and ODD in which the Autopilot mode is functional. The investigation will also include examination of the contributing circumstances for the confirmed crashes listed below and other similar crashes."

Spørsmål som "Er det større sannsynlighet for å stole på systemet slik at man kan sjekke bikkja, eller skru på en film" inkludert, og svaret er ja, så må en altså finne på noe. Spesielt om systemet ikke ser blinkende lys, kjegler og en svær stasjonær boks i veien i form av politibiler, brannbiler og ambulanser. 

Dette er ikke for å stoppe utvilingen av ADAS systemer, det er for å tilrettelegge korrekt måte å gjøre det på. 

[Complexity]

Det viser jo at mesteparten av ulykkene skjedde grunnet feilbruk av systemet.

De fleste brukte vel ikke autopilot engang, men bare cruisecontrol.

Endret 18. august 2021 av Complexity

[oophus]

Complexity skrev (Akkurat nå):

Det viser jo at mesteparten av ulykkene skjedde grunnet feilbruk av systemet.

Hvorfor feilbrukes systemet? Hvorfor er det så enkelt å feilbruke det? 

Complexity skrev (Akkurat nå):

De fleste brukte vel ikke autopilot engang, men bare cruisecontrol.

ADAS må implementeres på en metode som gir best resultat. Tesla har ikke implementert sine ADAS systemer på best mulig måte. Det er ei "ovenfor og ned" implementasjon fordi de skal selge ideen om autonomi. 
Yoke rattet osv er der kun for å fortelle ei historie. På tide å stramme inn og sette gode rammer som både kan gjøre ADAS bedre og sikrere, men gi korrekte rammer for hvordan slikt skal implementeres. 

Les gjerne linken jeg nylig kastet ut her. Den viser at "oppgraderinger" hos FSD og AP ikke nødvendigvis gir forbedringer. Det gir dårligere resultater i noen tilfeller og bedre resultater i andre tilfeller. Kan det være farlig trur du? Er det enkelt å forhindre? 

[uname -i]

Complexity skrev (22 minutter siden):

01/22/2018 = Autopilot engaged, "Driver inattention", system did not detect driver hands on wheel for 3 minutes and 41 seconds

https://mobile.twitter.com/kaczjef303/status/1427312416799567880

Skjønner jeg det der riktig? Sjåføren sovnet, og istedetfor å avbryte og stoppe bilen sikkert, så fortsette Autopiloten å kjøre Teslaen i 3 minutter og 41 sekunder inntil den dundra inn i en parkert politibil?

I tilfelle kan det ikke bli morsommere.

 

[Complexity]

5 minutes ago, uname -i said:

Skjønner jeg det der riktig? Sjåføren sovnet, og istedetfor å avbryte og stoppe bilen sikkert, så fortsette Autopiloten å kjøre Teslaen i 3 minutter og 41 sekunder inntil den dundra inn i en parkert politibil?

I tilfelle kan det ikke bli morsommere.

 

Bilen gir deg sjansen en stund til å våkne og ta over. Var jo nylig en lignende hendelse i Norge.

https://www.vgtv.no/video/222494/kjoerer-i-soevne-paa-e6

Men den saken du refererer til er fra 2018, og tror man kunne vente 50 sekunder før man måtte ta i rattet da. Nå er det 15 sekunder men lett å lure om man legger en vekt eller noe på rattet. Men man har jo da lurt systemet med vilje.

[Complexity]

10 minutes ago, oophus said:

Hvorfor feilbrukes systemet? Hvorfor er det så enkelt å feilbruke det? 

ADAS må implementeres på en metode som gir best resultat. Tesla har ikke implementert sine ADAS systemer på best mulig måte. Det er ei "ovenfor og ned" implementasjon fordi de skal selge ideen om autonomi. 
Yoke rattet osv er der kun for å fortelle ei historie. På tide å stramme inn og sette gode rammer som både kan gjøre ADAS bedre og sikrere, men gi korrekte rammer for hvordan slikt skal implementeres. 

Les gjerne linken jeg nylig kastet ut her. Den viser at "oppgraderinger" hos FSD og AP ikke nødvendigvis gir forbedringer. Det gir dårligere resultater i noen tilfeller og bedre resultater i andre tilfeller. Kan det være farlig trur du? Er det enkelt å forhindre? 

Man feilbruker systemet om man er dritings og sitter å trykker på telefonen med en hand på rattet f.eks.