Tesla full selvkjøring er det ikke villende?

[The Avatar]

I Norge har vi i dag 3 dødsulykker per 1 milliard køyrde kilometer med manuell køyring, det blir spennande å sjå kva statistikken viser etterkvart som vi får meir datagrunnlag frå sjølvkøyrande bilar. 

[sverreb]

On 12/22/2019 at 7:30 PM, toffo said:

Personer som er vant til å droppe alt med liten skrift kan skylde seg selv, akkurat som de får trøbbel i forsikringsoppgjør, kjøpekontrakter, erstatningssaker ved bruksfeil etc.

Kan de som blir en uskyldig tredjepart også skylde på seg selv? Burde de visst at de burde forlatt veien når en bil med beta software viste seg i synsfeltet?

Forsikringer dekker bare finansielle tap, mennesklig lidelse og død lar seg ikke ersatte på noen fullgod måte. Det bør gå en grense for hvor betatesting, og systemutvikling i det offentlige foregår ved hvor uskyldige tredjeparter kan bli rammet.

Move fast and break things er kanskje en ok filosofi så lenge man bare opererer innen software, og det verste som kan skje er å rulle tilbake til forrige versjon, men der software kan og vil ha reelle fysiske konsekvenser må man gå tilbake til teste, teste og teste igjen.

[Nimrad]

sverreb skrev (9 timer siden):

Det bør gå en grense for hvor betatesting, og systemutvikling i det offentlige foregår ved hvor uskyldige tredjeparter kan bli rammet.

Det er ingen som har tenkt å sende ut selvkjørende biler uten mennesker i før de har bedre statistikk enn menneskelige sjåfører.

[sverreb]

39 minutes ago, Nimrad said:

Det er ingen som har tenkt å sende ut selvkjørende biler uten mennesker i før de har bedre statistikk enn menneskelige sjåfører.

Jeg ser ikke at det nødvendigvis hjelper at det sitter et menneske bak rattet, spesiellt ikke når det mennesket ikke har opplæring som testsjåfør. 

Risikokompensasjon er en reell ting. Utrente testsjåfører har ikke nødvendigvis tilstrekkelig overvåkenhet til å både følge med på trafikken og å kontrollere oppførselen til automasjonen. Tvert i mot ser vi mange tegn til at mennesker følger mindre med enn om de hadde kjørt selv, også når de bruker uferdig automasjon til å kjøre.

[Nimrad]

sverreb skrev (1 time siden):

Tvert i mot ser vi mange tegn til at mennesker følger mindre med enn om de hadde kjørt selv, også når de bruker uferdig automasjon til å kjøre.

Slikt vil jeg gjerne ha kilder på, for jeg har sett veldig lite forskning på området. Det at det aldri har vært så få ulykker som i dag tyder på at hvertfall noe funker. Statistikk fra de fleste som tester selvkjøring viser også lavere antall ulykker enn menneskelige sjåfører, men problemet med de tallene er at de ofte er på fine veier og ikke testes i veldig vanskelige forhold.

sverreb skrev (1 time siden):

Jeg ser ikke at det nødvendigvis hjelper at det sitter et menneske bak rattet, spesiellt ikke når det mennesket ikke har opplæring som testsjåfør. 

Jeg er ikke enig i det hele tatt. Jeg tror definitivt det hjelper med menneske bak rattet.

sverreb skrev (1 time siden):

Risikokompensasjon er en reell ting. Utrente testsjåfører har ikke nødvendigvis tilstrekkelig overvåkenhet til å både følge med på trafikken og å kontrollere oppførselen til automasjonen

Veldig vanskelig å forstå hva du mener her egentlig. Det er ikke noe forskjell i å følge med på oppførsel til automasjon og trafikk. Du skal kjøre bil, og forholder deg til trafikk uansett. Adaptiv cruisekontroll er helt fantastisk, og jeg vil tro at de fleste slike systemer har bedre statistikk enn mennesker til å holde avstand til bilen fremfor all den tid påkjøring bakfra er så utbredt som det er. En maskin mister aldri fokus.

[Salvesen.]

Hvordan er det "villedende", fra tesla sine egne sider om FSD/autopilot:

Sitat

Funksjonene vi tilbyr i dag krever at sjåføren til enhver tid har kontroll over kjøretøyet, og gjør ikke bilen selvkjørende. På grunn av dagens regelverk vil du måtte bruke for eksempel blinklyshendelen for å aktivere visse funksjoner. Av samme grunn er rekkevidden og manøvrerbarheten ved bruk av Summon begrenset.   For å kunne aktivere nye funksjoner må de oppnå langt større pålitelighet enn menneskelige sjåfører, og dette må dokumenteres gjennom milliarder av kjørte kilometer. I tillegg må funksjonene bli lovlige å bruke, hvilket kan ta lengre tid i noen områder enn andre.   Mens vi utvikler nye funksjoner vil Teslaen din forbedres kontinuerlig gjennom trådløse programvareoppdateringer.

 

[sverreb]

On 12/24/2019 at 12:59 PM, Nimrad said:

Slikt vil jeg gjerne ha kilder på, for jeg har sett veldig lite forskning på området.

Her er en artikkel: https://slate.com/technology/2018/03/safety-drivers-attention-spans-might-slow-self-driving-car-progress.html
Det er en journalistisk artikkel, men den har referanser til forskning.
Deette omhandler professjonelle testsjåfører, jeg kan ikke tenke meg at amatører er bedre, heller tvert i mot.
 

On 12/24/2019 at 12:59 PM, Nimrad said:

Statistikk fra de fleste som tester selvkjøring viser også lavere antall ulykker enn menneskelige sjåfører, men problemet med de tallene er at de ofte er på fine veier og ikke testes i veldig vanskelige forhold.

Nemlig. Jeg har ikke sett noe som konklusivt kan vise at dagens (semi)autonome systemer har reell sikkerhetsgevinst, ihvertfall ikke uten å ha store fremkommelighetsproblemer p.g.a. ekstremt konservativ kjøring. Enkelte produsenters reklamematriell har vist seg å ha vesentlige metodiske svakheter, når de har påstått noe annet.
 

On 12/24/2019 at 12:59 PM, Nimrad said:

Jeg er ikke enig i det hele tatt. Jeg tror definitivt det hjelper med menneske bak rattet.

La meg presisere at de er sannsynligvis bedre enn at de fikk lov til å kjøre helt uten oppsyn. Mitt poeng er at disse uferdige systemene, selv med mennesker til å kontrollere fortsatt ikke er noe vi uten videre bør få slippe til i trafikken. Spesiellt ikke når menneskene som skal holde oppsyn er amatører. Den som skal drive testing av uferdig selvkjøring skal jo ikke bare følge med i samme grad som om vedkommne kjørte selv, i tilegg skal han kontrollere automasjonen. Dette er pr. def en større kognitiv belastning enn å bare kjøre selv.

On 12/24/2019 at 12:59 PM, Nimrad said:

Adaptiv cruisekontroll er helt fantastisk, og jeg vil tro at de fleste slike systemer har bedre statistikk enn mennesker til å holde avstand til bilen fremfor all den tid påkjøring bakfra er så utbredt som det er. En maskin mister aldri fokus.

ACC er ikke det vi snakker om. ACC ble testet og utviklet i mange år før den ble rullet ut i biler i en produksjonsklar tilstand, ikke en betatilstand. Mitt poeng er at det blir feil å bruke trafikken med uvitende trafikkanter som laboratorie for å utvikle sikkerhetskritiske systemer. De må bringes til en produksjonsklar tilstand før de rulles ut til publikum. Softwarebransjens noe lettvindte holdning med å la kundene være testere er etter mitt syn helt uspiselig når systemene det er snakk om kan involvere uvitende tredjeparter og kan forårsake vesentlig skade.

[Syar-2003]

....

Endret 26. desember 2019 av syar2003
Feil tråd

[Nimrad]

sverreb skrev (8 timer siden):

ACC ble testet og utviklet i mange år før den ble rullet ut i biler i en produksjonsklar tilstand, ikke en betatilstand.

Nei, det gjorde det ikke. De første jeg prøvde var uten tvil i en ekstrem beta-versjon. Kunne ikke stole på i de i det hele tatt.

Ellers er vi forsåvidt enige, men jeg er nok litt mer liberal på å slippe ut begrensede cruisekontroller som også svinger for deg på motorveier f.eks. Poenget mitt er at man må løfte blikket litt. Dersom statistikken på ulykker viser noenlunde det samme allerede nå er det en enorm gevinst å hente på å slippe de løs på norske veier så de får lært seg særnorske forhold. Attention span og slike ting er egentlig bare bagateller som lett som kan løses med software som tvinger sjåføren til å ta aktive valg selv. Vi er uansett flere år unna full selvkjøring, men det bør tas politiske standpunkt allerede da dette de aller fleste steder kommer til å bli begrenset av lovgivning og ikke teknologi de kommende årene. Jeg synes det vil være uetisk å forby det når det snart vil være irrasjonelt rent samfunssøkonomisk grunnet færre ulykker. Slik som EU holder på er hvertfall totalt idiotisk, så vi får håpe det blir bedre når det skal revurderes rett over nyåret.

[sverreb]

18 hours ago, Nimrad said:

Nei, det gjorde det ikke. De første jeg prøvde var uten tvil i en ekstrem beta-versjon. Kunne ikke stole på i de i det hele tatt.

Slike systemer kan godt være upålitelige men fortsatt ha produksjonskvalitet. Kriteriet er ikke at de ikke kan feile, men at de skal feile trygt når de gjør det. Nå vil naturligvis kvalitetkriteriene variere noe* og feil skjer naturligvis hos selv de beste. Målsetningen er imidlertid normalt at man skal skaffe seig oversikt over alle feilscenarier, og klassifisere de etter sannsynlighet og alvorlighet (FMEA analyse), og så sørge for at man har riktig risikomitigasjon. Kriteriet for å ha produksjonskvalitet er dermed ikke at systemet ikke kan feile men at man har oversikt over alle måtene det kan feile på og at man kan leve med utfallene av de.

Nå en produsent må rulle ut nye mitigasjoner slik tesla har gjort på autopilot software så er det et tegn på at FMEA var ukomplett.

En av de viktigste mitigasjonene for ADAS systemer er antagelsen om at mennesket er til stede slik at de kan fungere utfyllende heller en erstattende for mennesklig oppmerksomhet, men for automasjon som tar over hele interaksjonen med bilen er en åpenbar risiko slik jeg dokumenterte tidligere, at sjåføren er funksjonelt fraværende. Det å være sikker på at man har sjåførens oppmerksomhet hele tiden er noe av det vanskeligste å håndtere. Så det må ha svært betryggende mitigasjoner før vi kalle slike systemer produksjonsklare, noe jeg ikke ser vi har gode svar på for systemer som autopilot. ACC har ikke samme problem siden sjåføren er involvert hele tiden for å styre bilen og har ikke samme risiko for å være effektivt fraværende.

*) Bilbransjen forholder seg normalt til IEC61508/ISO26262 for å ha en felles begrepsbruk her

[Trestein]

Det ser ut til at tesla har litt igjen før bilene er tryggere enn føreren

https://www.nrk.no/norge/milliardaer-kjorte-pa-gutt-_3__-_-jeg-er-uendelig-trist-1.14843867

[coffeee]

Den dagen Google translate greier å oversette et avsnitt med tekst fra norsk til engelsk, skal jeg åpne ørene for «selvkjørende biler». Hele greia synes bare å være en jippo. 

[Salvesen.]

Trestein skrev (12 minutter siden):

Det ser ut til at tesla har litt igjen før bilene er tryggere enn føreren

https://www.nrk.no/norge/milliardaer-kjorte-pa-gutt-_3__-_-jeg-er-uendelig-trist-1.14843867

Tenk å bruke ett slikt forferdelig eksempel for å fremme sitt eget ståsted rundt ett bilmerke. Tragisk. Og det har vell lite med Tesla å gjøre, at en gammel mann kjører ned en liten gutt?

 

Skammekroken neste..

[Trestein]

Salvesen. skrev (22 minutter siden):

Tenk å bruke ett slikt forferdelig eksempel for å fremme sitt eget ståsted rundt ett bilmerke. Tragisk. Og det har vell lite med Tesla å gjøre, at en gammel mann kjører ned en liten gutt?

 

Skammekroken neste..

Vel jeg har uttalt at jeg er skeptisk til den falske tryggheten denne teknikken gir føreren og at bilen har skjermer som lett distraherer føreren. Dette var et tragisk eksempel og i likhet med sykkelisten som ble drept for noen år siden blir det nok spørsmål om bilens sensorer er trygge nok til at man kan kalle bilen selvkjørende. Tester har vist at noen biler er bedre og andre dårligere når det gjelder å detektere barn i veien. Hva med denne parkeringsfunksjonen som bilen gjør uten fører tilstede. Er denne funksjonen trygg. Hvem har ansvaret når den kjører på en treåring? Jeg liker slikt dårlig. 

[Salvesen.]

Trestein skrev (6 minutter siden):

Vel jeg har uttalt at jeg er skeptisk til den falske tryggheten denne teknikken gir føreren og at bilen har skjermer som lett distraherer føreren. Dette var et tragisk eksempel og i likhet med sykkelisten som ble drept for noen år siden blir det nok spørsmål om bilens sensorer er trygge nok til at man kan kalle bilen selvkjørende. Tester har vist at noen biler er bedre og andre dårligere når det gjelder å detektere barn i veien. Hva med denne parkeringsfunksjonen som bilen gjør uten fører tilstede. Er denne funksjonen trygg. Hvem har ansvaret når den kjører på en treåring? Jeg liker slikt dårlig. 

Hva babler du om? Hva har dette med at en person har kjørt på ett barn? 

[Trestein]

Salvesen. skrev (3 minutter siden):

Hva babler du om? Hva har dette med at en person har kjørt på ett barn? 

Det har med det å gjøre at mange biler har sensorer som bremser bilen automatisk når det kommer folk eller gjenstander foran bilen. 

Dette er en del av utstyret som gjør biler selvkjørende. Dette er en av de viktigste egenskapene el selvkjørende bil må ha. Vi kan ikke ha biler kjørende rundt på parkeringsplasser som har sensorer som ikke ser barn. 

[Salvesen.]

Trestein skrev (Akkurat nå):

Det har med det å gjøre at mange biler har sensorer som bremser bilen automatisk når det kommer folk eller gjenstander foran bilen. 

Dette er en del av utstyret som gjør biler selvkjørende. Dette er en av de viktigste egenskapene el selvkjørende bil må ha. Vi kan ikke ha biler kjørende rundt på parkeringsplasser som har sensorer som ikke ser barn. 

Nå antar du bare noe, det er ikke en eneste ting som peker på at "sensorene ikke ser barn". Det er dessverre mange barn som blir påkjørt i trafikken, og det er ikke kun av Tesla sine biler. 

Denne saken er såpass "ekstrem" at jeg syns en bør holde konspirasjonsteoriene for seg selv til det er teknisk grunnlag til å komme med slike uttalelser. Det er iallefall min mening om saken og min siste kommentar rundt emnet før mer info er på plass. 

[Trestein]

Salvesen. skrev (11 minutter siden):

Nå antar du bare noe, det er ikke en eneste ting som peker på at "sensorene ikke ser barn". Det er dessverre mange barn som blir påkjørt i trafikken, og det er ikke kun av Tesla sine biler. 

Denne saken er såpass "ekstrem" at jeg syns en bør holde konspirasjonsteoriene for seg selv til det er teknisk grunnlag til å komme med slike uttalelser. Det er iallefall min mening om saken og min siste kommentar rundt emnet før mer info er på plass. 

Dette er ikke noe bare jeg mener. 

https://www.nettavisen.no/nyheter/ny-studie-bekrefter-ekspertenes-advarsler---fungerer-ikke-i-naerheten-av-det-reklamen-beskriver/3423858237.html

[l0mf0mgl0mbl0og]

Tror ikke dette blir en diskusjon som er vits å ta på en gooood stund...

Tesla er kraftig forsinket med FSD (nei de kan ikke gjemme seg bak regulering-unnksyldningene for alltid).

Det andre er at Norge er ikke en suveren stat, men er underlagt EU og FN virker det som, så det har allerede "nerfet" AutoPilot som det er i dag. Med timeout av filskifte, varsler hvert 15 sekund istedenfor lengre, og den skriker når svingen er for krapp. Det med at den starter blinkingen og gir opp, samt at den ikke greier svingene pga regler er direkte farlig. Så reguleringer har gjort AutoPilot farligere og mer ubrukelig i EU og de andre medlemslandene som er tilsluttet avtalen i FN.

 

Ingen i EU har fått ettermontert HW3 pga. dette. Så de som var early adopters av FSD-pakken, mao. de som bestilte tidlig, blir straffet med at de må ha gammel hardware til Tesla bestemmer seg for å oppgradere dem. EU blir antakeligvis sist i køen. Nå har det kommet flere ting som gjenkjenning av stoppskilt osv som bare funker på HW3, og bare i USA. De gidder kanskje ikke engang å trene datasettet for europeiske skilt ennå. Det er dog bare spekulasjon fra min side.

 

Tesla har ikke engang skiltlesing på fart. Med sin Hardware 2.x og 3. Det er visstnok pga. at Mobileye som de brukte tidligere, og gikk bort fra, har patent på denne metodikken. Vet ikke helt hvor sant dette er . Dette resulterer i at fartsgrensene er basert på GPS og kartdata som er feil 60% av tilfellene. Og hvis GPSen viser feil posisjon kan den finne på å plukke opp fartsgrenser utenfor veien. Da kan den finne på å gå fra 80 til 40 fordi den plukker opp farta i et nabolag rett ved. Ikke gøy!

"Smart" summon kom endelig til EU, men i en utrolig forkrøplet versjon! Du må stå omtrent inntil bilen og den kan ikke gå lengre enn en radius på 20 meter. Så i praksis er det fullstendig ubrukelig. Men på den positive siden kan de få folk irriterte på EU.

 

Som dere ser så tror jeg vi bare må stå og se på de selvkjørende bussene på Forus, og skue mot USA.

Bildet ble tatt i desember i 2019.

Endret 2. januar 2020 av l0mf0mgl0mbl0og

[sverreb]

15 minutes ago, l0mf0mgl0mbl0og said:

Med timeout av filskifte, varsler hvert 15 sekund istedenfor lengre, og den skriker når svingen er for krapp. Det med at den starter blinkingen og gir opp, samt at den ikke greier svingene pga regler er direkte farlig. Så reguleringer har gjort AutoPilot farligere og mer ubrukelig i EU og de andre medlemslandene som er tilsluttet avtalen i FN.

Hvor mange motorveier har så skarpe svinger at EU reglene er begrensende? Nei reguleringene gjør ikke AP farligere, de reduserer mulighetene for forventbart misbruk som f.eks å bruke den utenfor motorveier.

At det kommer reguleringer er en konskvens av manglende selvjustis. Når selskaper som bruker trafikken som laboratorium, og slipper uferdig sikkerhetskritisk programvare ut i produksjonsbiler, da må man regne med konsekvenser. Bilbransjen har hatt en stor grad av selvjustis på sikkerhet (Ikke like mye på utslipp, som er grunnen til at vi der har strenge reguleringer), ikke minst p.g.a. at de ble filleristet på 60/70 tallet for manglende sikkerhetsfokus, så når det nå igjen later til å være in å kompromisse på sikkerhet for å kunne skryte på seg fancye features i reklamen, må vi regne med at bilbransjen igjen settes under lupen og blir gjenstand for strengere regulering.

Og nei, selvkjøring fungerer ikke dårlig p.g.a. at regulatorer er slemme, de fungerer dårlig fordi ingen vet hvoran man skal få de til å fungere bra. At det kommer regulering her nå er bare myndigheter som gjør jobben sin og beskytter samfunnet fra uansvarlige markedsaktører.

26 minutes ago, l0mf0mgl0mbl0og said:

Tesla har ikke engang skiltlesing på fart. Med sin Hardware 2.x og 3. Det er visstnok pga. at Mobileye som de brukte tidligere, og gikk bort fra, har patent på denne metodikken

Det tror jeg vel egentlig ingenting på, patenter er stort sett til for å ignoreres ev. inngå krysslisensieringsavtaler på, men selv om det var tilfelle: Spiller det noen rolle, du har ingen løsning uten skiltgjenkjenning, så om du er forhindret fra å ha det kan du ikke rimeligvis selge et produkt som er avhengig av å ha nettopp skiltgjenkjenning.