Tesla i gryende strid med sikkerhets­organ om hvordan bilene oppdateres

[Redaksjonen.]

Tesla i gryende strid med sikkerhets­organ om hvordan bilene oppdateres

[Snowleopard]

Big Oil strikes again? Er vel  kanskje dette som fikk Munroe til å irritere seg, da det antydet at noe måtte ligge bak. Er så man lurer på om det er slik andre produsenter prøver å få kloa i Teslas software, ved å få tilgang til hemmeligheter ved å jobbe med/mot NHTSA? Og samtidig stikke kjepper i hjulene, for ikke å bli for langt bakpå?

Nå vil sikkert noen hyle opp om hvilke konspirasjonsteorier jeg kommer med nå, men dette er spørsmål, ikke påstander om at det er slik. Så ha det som bakgrunn når dere fyrer løs. ..
 

 

[oophus]

Snowleopard skrev (57 minutter siden):

Big Oil strikes again?

Problemstillingen er da legitim? Hvordan kan et sikkerhetsorgan ha oversikt over sikkerhet, når OTA utnyttes? Burde ikke OTA kontrolleres spesielt når det er snakk om maskinlæring? Hvordan testes oppdateringene for å garantere forhøyet sikkerhet? Har man alle kortene åpne med en god fremgangsmetode i testing, så er det jo ingenting å bekymre seg over? Da er dette enkelt å bevise og dokumentere. 

 

Snowleopard skrev (57 minutter siden):

Er så man lurer på om det er slik andre produsenter prøver å få kloa i Teslas software, ved å få tilgang til hemmeligheter ved å jobbe med/mot NHTSA? Og samtidig stikke kjepper i hjulene, for ikke å bli for langt bakpå?

 Hva slags data mener du må dokumenteres for å dokumentere at OTA testes? Handler OTA oppdateringen om selvkjøring og det å gjøre den sikrere, uten at den blir sikrere så står dem jo der og klør seg i hodet for hva de skal tenke. 

"I slutten av september sendte Tesla ut en oppdatering av programvaren for å gjøre den bedre i stand til å unngå biler (inkludert utrykningskjøretøyer) som står stille på veien."

I ettertid så har kollisjoner hendt, og OTA for å fikse dette har f.eks brukeren Green notert seg flere ganger. Han har sett 7 (eller 6) OTA oppdateringer som har prøvd å berøre det med utrykningskjøretøy uten at kollisjonene har stoppet. 
 

Sitat

Og i hvor stor grad er bilprodusenter som Tesla, VW og alle de andre som jobber med OTA, forpliktet til å avlevere detaljerte opplysninger?

TU burde lese dokumentet som NHTA har sendt, så hadde de sluppet å stille dette spørsmålet. Svaret er at de skal levere akkurat de samme opplysningene som Tesla må levere. 

Endret 20. oktober 2021 av oophus

[Karstein H]

Dette var en merkelig artikkel, med et rart fokus. Det er akkurat som om sikkerhetsmyndighetene er et problem.

Problemet er at Tesla ikke viser transparens.

Håper TU ikke er like kritisk overfor Luftfartstilsynet, EASA, FAA og andre luftfartsmyndigheter som ettergår flyprodusenter, flyselskaper og lufttrafikktjeneste. Myndighetsettersyn er helt kritisk for sikkerheten innen transport, på samme måte som man har finanstilsyn og helsetilsyn.

Uten tilsyn tar ulike produsenter og leverandører snarveier, snarveier som fører til skader og dødsfall.

[Samms]

56 minutes ago, Karstein H said:

Dette var en merkelig artikkel, med et rart fokus. Det er akkurat som om sikkerhetsmyndighetene er et problem.

Problemet er at Tesla ikke viser transparens.

Håper TU ikke er like kritisk overfor Luftfartstilsynet, EASA, FAA og andre luftfartsmyndigheter som ettergår flyprodusenter, flyselskaper og lufttrafikktjeneste. Myndighetsettersyn er helt kritisk for sikkerheten innen transport, på samme måte som man har finanstilsyn og helsetilsyn.

Uten tilsyn tar ulike produsenter og leverandører snarveier, snarveier som fører til skader og dødsfall.

Når du tar inn FAA i diskusjonen så blir problemstilling rundt habilitet og kunnskapsnivå hjå tilsyn relevant. Historia med Boing 737 Max viser at FAA hadde litt for tette bånd til flyprodusenten og lente seg litt for mykje på kunnskapen til flyprodusenten.

Spørsmålet er då om NHTSA har tilsvarande tette band til nokon av bilprodusentane? Og støtter dei seg i same grad på kunnskapen til andre bilprodusentar enn Tesla? Habilitet og fare for lekasjer er då absolutt eit emne for diskusjon. 

[oophus]

Samms skrev (13 minutter siden):

Spørsmålet er då om NHTSA har tilsvarande tette band til nokon av bilprodusentane? Og støtter dei seg i same grad på kunnskapen til andre bilprodusentar enn Tesla? Habilitet og fare for lekasjer er då absolutt eit emne for diskusjon. 

Da hadde de nok ikke sendt tilsvarende brev til 12 andre bilprodusenter, som også må levere inn data på ADAS i sin bilflåte. Inklusivt ulykker, hvordan slikt testes, hvor mange oppdateringer de har hatt osv. 

[AL123]

Rimelig pinlig forestilling av Munro på YT i kveld...

[uname -i]

Big Safety strikes again!

En gang i tiden så hørte folk på hva Sandy Munroe hadde å si blant annet som fagperson i diverse fora. Så gjorde han tabben å totalslakte Model 3 og fikk Musk og den rabiate kulten på nakken.

Nå sitter han igjen som en kuet, pengelens klovn strippet for all kredibilitet hvor eneste alternativ er å servere klin kokos konspirasjonsteorier til Tesla fansen. Videoen minner meg om de fra IS hvor offeret leser høyt fra et diktat.

Dette er hva Munroe er redusert til der han er inne i livets solnedgang. Man kan ikke annet enn å synes synd på fyren.

[Simen1]

Karstein H skrev (13 timer siden):

Problemet er at Tesla ikke viser transparens.

Det er et gjennomgående problem i hele software-bransjen fra A til Å. Eneste løsning på sikt er at alle land har lover som setter krav til uavhengig kontroll av kildekode. Alt må anses som usikkert og fiendtlig inntil det motsatte er bevist. Det behøver ikke bety at kildekoden må frigis for alle og en hver, bare for kontrollorganer som kan holde på konfidensialiteten.

[Stefse]

Say welcome back to phantom-braking, Tesla-programvarens standardsvar på situasjoner den ikke skjønner.

[uname -i]

Tviler sterkt på at NHTSA er interessert i selve koden. De vil nok heller ha innsyn i selve prosessen. Hvordan utvikles funksjonalitet? Har man et rigorøst testregime som står i stil med at man gjør endringer på et livskritisk system?

Når Musk twitrer at en ny versjon blir ett døgn forsinket fordi man må rette opp i feil så tror jeg svaret gir seg selv.

[Espen Hugaas Andersen]

Virker som dette blir ganske lett for Tesla å svare ut. Det er stor forskjell på å rette feil, og å innføre forbedringer.

Slik systemet tidligere var utformet og godkjent hadde det liten evne til å unngå å kjøre inn i utryningskjøretøy, i situasjoner der sjåføren er uoppmerksom. Dette er en feature, ikke en bug.

Oppdateringene de har innført forbedrer systemet slik at det kan redde sjåføren i flere og flere situasjoner. Og forbedringer krever ingen tilbakekalling. Tilbakekallinger er kun relevante i situasjoner der noe er feil med kjøretøyet.

Endret 21. oktober 2021 av Espen Hugaas Andersen

[KalleKanin]

Espen Hugaas Andersen skrev (17 minutter siden):

Virker som dette blir ganske lett for Tesla å svare ut. Det er stor forskjell på å rette feil, og å innføre forbedringer.

Slik systemet tidligre var utformet og godkjent hadde det liten evne til å unngå å kjøre inn i utryningskjøretøy, i situasjoner der sjåføren er uoppmerksom. Dette er en feature, ikke en bug.

Oppdateringene de har innført forbedrer systemet slik at det kan redde sjåføren i flere og flere situasjoner. Og forbedringer krever ingen tilbakekalling. Tilbakekallinger er kun relevante i situasjoner der noe er feil med kjøretøyet.

Er dette ment ironisk?
Dette er et sikkerhetssystem som ikke fungerer etter hensikten. Dette er selvsagt en bug.
Med en slik tilnærming vil omtrent alt være "forebdringer" av "features".

Eks:
Airbagen løser ikke ut i alle situasjoner: Aha, vi "forbedrer" "featuren" slik at den løser ut i flere situasjoner.
Bremsene kan hackes slik at de kan slås på av en tredjepart: Aha, vi "forbedrer" "featuren" slik at dette ikke kan skje.
osv...

Ellers krever ikke NHTSA nødvendigvis tilgang til koden, men ønsker å få innblikk i prosessene rund dette, for å sikre at man har gode rutiner. 
Feil vil fortsatt skje, og ingen systemer er perfekte, men man skal ikke la bilførere inneha rollen som beta-testere heller.
Inntrykket er jo at Tesla er litt for smidige i sin utvikling, noe som sikkert er OK for utvikling av webapplikasjoner, men ikke når man designer sikkerhetssystemer i biler eller designer systemer der liv og helse kan stå på spill.

Ikke minst ønsker NHTSA at de blir varslet når fabrikantene sender ut "forbedringer" som kan/skal påvirke sikkerheten.

Endret 21. oktober 2021 av KalleKanin

[oophus]

Espen Hugaas Andersen skrev (19 minutter siden):

Slik systemet tidligere var utformet og godkjent hadde det liten evne til å unngå å kjøre inn i utryningskjøretøy, i situasjoner der sjåføren er uoppmerksom. Dette er en feature, ikke en bug.

Merkeligste jeg har lest. Det var altså et valgt design å ta liv, for å straffe de som ikke fulgte med? 

FSD Beta sliter med det samme btw. Lite trolig at et system designet for å kjøre seg selv blir designet for å straffe barnepasseren.... 

[Espen Hugaas Andersen]

1 minute ago, KalleKanin said:

Er dette ment ironisk?
Dette er et sikkerhetssystem som ikke fungerer etter hensikten. Dette er selvsagt en bug.
Med en slik tilnærming vil omtrent alt være "forebdringer" av "features".

Eks:
Airbagen løser ikke ut i alle situasjoner: Aha, vi "forbedrer" "featuren" slik at den løser ut i flere situasjoner.
Bremsene kan hackes slik at de kan slås på av en tredjepart: Aha, vi "forbedrer" "featuren" slik at dette ikke kan skje.
osv...

Om man har designet en airbag som vil løse ut i 95% av relevante ulykker, og denne blir godkjent slik den er designet og montert på bilene, så vil senere forbedringer på airbagen som øker tallet til 99% ikke løse ut en tilbakekalling. Selv om produsenten frivillig skulle bytte ut airbagen på tidligere solgte biler. Kunden har bare betalt for en airbag som løser ut 95% av tiden, og det er også det myndighetene har godkjent som en adekvat sikkerhetsløsning.

Når ting fungerer slik de er designet er det ikke relevant å snakke om feil.

[uname -i]

Espen Hugaas Andersen skrev (Akkurat nå):

Om man har designet en airbag som vil løse ut i 95% av relevante ulykker, og denne blir godkjent slik den er designet og montert på bilene, så vil senere forbedringer på airbagen som øker tallet til 99% ikke løse ut en tilbakekalling. Selv om produsenten frivillig skulle bytte ut airbagen på tidligere solgte biler. Kunden har bare betalt for en airbag som løser ut 95% av tiden, og det er også det myndighetene har godkjent som en adekvat sikkerhetsløsning.

Når ting fungerer slik de er designet er det ikke relevant å snakke om feil.

Du snakker hele tiden om godkjent. Har du en link til hvor det er godkjent at Teslaer hele tiden braser inn i parkert ambulansepersonell? Du kaller det til og med en "feature"

 

[Espen Hugaas Andersen]

1 minute ago, uname -i said:

Du snakker hele tiden om godkjent. Har du en link til hvor det er godkjent at Teslaer hele tiden braser inn i parkert ambulansepersonell? Du kaller det til og med en "feature"

Autopilot/FSD godkjennes fortløpende av relevante myndigheter. Uten godkjenning ville ikke Tesla kunne selge bilene sine med disse funksjonene.

[uname -i]

Espen Hugaas Andersen skrev (Akkurat nå):

Autopilot/FSD godkjennes fortløpende av relevante myndigheter. Uten godkjenning ville ikke Tesla kunne selge bilene sine med disse funksjonene.

Ok. Link til denne godkjenningen av FSD 10.2 takk.

[Espen Hugaas Andersen]

Just now, uname -i said:

Ok. Link til denne godkjenningen av FSD 10.2 takk.

Du får legge inn en FOIA forespørsel hos amerikanske myndigheter om du ikke klarer finne det på nett selv. (Jeg er riktignok litt usikker på om en FOIA forespørsel krever at man er amerikansk statsborger.)

[AL123]

Espen Hugaas Andersen skrev (8 minutter siden):

Om man har designet en airbag som vil løse ut i 95% av relevante ulykker, og denne blir godkjent slik den er designet og montert på bilene, så vil senere forbedringer på airbagen som øker tallet til 99% ikke løse ut en tilbakekalling. Selv om produsenten frivillig skulle bytte ut airbagen på tidligere solgte biler. Kunden har bare betalt for en airbag som løser ut 95% av tiden, og det er også det myndighetene har godkjent som en adekvat sikkerhetsløsning.

Når ting fungerer slik de er designet er det ikke relevant å snakke om feil.

Ok, det er ikke slik tilbakekallinger har fungert tidligere, men kanskje du og Tesla har kommet opp med et nytt system?