Tesla tar vekk radaren på Model Y og 3: Norsk ekspert er skeptisk

[uname -i]

Rune_says skrev (1 time siden):

5 måneder gammel.  Som nevnes i videoen er det på gang noen rettssaker/undersøkelser ang motorsyklister som har blitt påkjørt og omkommet - spekulativt pga natt og kamera som har oppfattet enkelt baklys som bil langt unna.

https://www.fmglaw.com/business-litigation/nhtsa-probes-tesla-crashes-involving-motorcyclist-fatalities/

Ja, det ser ut til at problemet er om natta når det gjelder motorsykler. Et web-kamera med lav oppløsning, ingen reell stereoskopi/avstandsmåling og dårlig lyssensivitet har jobben med å skjønne hva som er foran, men i stedet for at Autopiloten melder at her er man ikke trygg og dette er forhold hvor sjåføren selv bør håndtere styringen, så tar den bare sjansen og gjetter.

Det er noe som heter ODD(Operational Design Domain) hvor man setter begrensninger på hvor autonomien skal operere. Fart, område, vær- og lysforhold for eksempel. Tesla er eneste produsent som overlater denne beslutningen til en sjåfør som gjerne har overdreven tiltro til systemet. En oppskrift på unødvendige ulykker.

 

 

Edit: Sjefen for autopilot i Tesla vet ikke hva ODD er. Det er helt utrolig. Som å drive med matematikk og ikke kjenne til den store gangetabellen.

Houston, We Have a Problem: Tesla’s Autopilot Software Head Does Not Know About the Operational Design Domain (ODD) Or Perception-Reaction Time!

Endret 7. februar 2023 av uname -i

[Markiii]

uname -i skrev (8 timer siden):

Ja, det ser ut til at problemet er om natta når det gjelder motorsykler. Et web-kamera med lav oppløsning, ingen reell stereoskopi/avstandsmåling og dårlig lyssensivitet har jobben med å skjønne hva som er foran, men i stedet for at Autopiloten melder at her er man ikke trygg og dette er forhold hvor sjåføren selv bør håndtere styringen, så tar den bare sjansen og gjetter.

Kameraene ser generelt ikke ut til å ha problemer med å identifisere ting i mørke og dårlig sikt generelt. Husk at ulykkene der er snakk om her sannsynligvis er gamle Autopilot og ikke FSD, selv om videoen prøver å forvirre folk rundt akkurat dette.

[uname -i]

Markiii skrev (13 minutter siden):

Kameraene ser generelt ikke ut til å ha problemer med å identifisere ting i mørke og dårlig sikt generelt. 

Hva slags superkamera er det Tesla har som klarer å nøyaktig måle avstand, form og hastighet på en mørk ting midt på natta?

Markiii skrev (14 minutter siden):

Husk at ulykkene der er snakk om her sannsynligvis er gamle Autopilot og ikke FSD, selv om videoen prøver å forvirre folk rundt akkurat dette.

Du mener gamle Autopilot som finnes i alle nye Teslaer? Den eneste som prøver å forvirre her er deg. Det spiller ingen rolle om det er FSD eller Autopilot, begge beslutter på bakgrunn av et webkamera som ikke klarer oppgaven som lidar/radar får til. Som for eksempel å på natta se at det som er foran bilen er en motorsykkel som er nærme og ikke en bil langt fremme.

[Markiii]

uname -i skrev (2 minutter siden):

Hva slags superkamera er det Tesla har som klarer å nøyaktig måle avstand, form og hastighet på en mørk ting midt på natta?

Tesla har frontlys, som de fleste andre biler.

Sitat

Du mener gamle Autopilot som finnes i alle nye Teslaer? Den eneste som prøver å forvirre her er deg. Det spiller ingen rolle om det er FSD eller Autopilot, begge beslutter på bakgrunn av et webkamera som ikke klarer oppgaven som lidar/radar får til. Som for eksempel å på natta se at det som er foran bilen er en motorsykkel som er nærme og ikke en bil langt fremme.

Ja, med "gamle Autopilot" mener jeg det vi har her i Norge, som altså ikke er det samme som FSD-betaen de har i USA.

Selvsagt spiller det en rolle hva det er. Gamle Autopilot er egentlig noe helt annet enn FSD-betaen. Det går ikke an å sammenligne fordi FSD-betaen er mye mer avansert. Man kan ikke bruke hendelser der Autopilot er involvert til å kritisere FSD-betaen.

[uname -i]

Markiii skrev (10 minutter siden):

Tesla har frontlys, som de fleste andre biler.

OK, men det jeg da lurer litt på. Hvis Teslaene ikke har noe problem med å kjenne igjen motorsykler midt på natta, hvorfor blir da motorsykler meid ned av Autopiloten?  Har Skynet stått for programmeringen?

 

Markiii skrev (13 minutter siden):

Man kan ikke bruke hendelser der Autopilot er involvert til å kritisere FSD-betaen.

Hvis du mener at FSD-betaen klarer å kjenne igjen motorsykler midt på natta, ville ikke det ansvarlige være å få den koden over i Autopiloten så fort som mulig og i mellomtiden fritatt Autopiloten oppgaven det er å styre bilen midt på natta?

[Markiii]

uname -i skrev (4 minutter siden):

OK, men det jeg da lurer litt på. Hvis Teslaene ikke har noe problem med å kjenne igjen motorsykler midt på natta, hvorfor blir da motorsykler meid ned av Autopiloten?  Har Skynet stått for programmeringen?

Nå vet vi ikke om informasjonen i videoen stemmer, om bilene i det hele tatt var på Autopilot. Men husk at Autopilot bare er avansert cruise control, med de begrensningene dette innebærer. Føreren er fortsatt ansvarlig, ikke førerassistenten.

Sitat

Hvis du mener at FSD-betaen klarer å kjenne igjen motorsykler midt på natta, ville ikke det ansvarlige være å få den koden over i Autopiloten så fort som mulig og i mellomtiden fritatt Autopiloten oppgaven det er å styre bilen midt på natta?

Sannsynligvis ikke, fordi alt henger sammen. De kan antakelig ikke bare plukke ut enkeltting de ønsker å overføre. Men igjen, vi vet ikke hva som faktisk har skjedd under de aktuelle ulykkene og jeg ser liten hensikt i å drive og spekulere så veldig mye mer.

[Rune_says]

Slik AI ("kunstig intelligens") fungerer så er det ikke nødvendigvis noen direkte avstandsmåling eller lignende.

AI betyr at man bygger en modell for hvordan inn-verdier skal transformeres til ut-data som danner grunnlag for svar/automatiserte reaksjoner/osv.   Modellen trenes på alle mulige bilder/filmer av situasjoner og eventuelt kontinuerlig.  Over tid vil en slik modell trent på fantastisk mye data få en treffsikkerhet som er større enn ved andre metoder.  Modellen har "lært" seg hvordan den skal gi ut-data basert på inn-data.  Den ferdig trente modellen/nevrale nettverket o.l. kan så ofte kondenseres til en statisk modell som tar veldig lite plass - altså reagerer AI både raskere og mer treffsikkert.

Men så mitt poeng ift nye biler som ikke har to separate frontlyker/baklykter men kanskje en lang stripe - dette er nytt.  Da må man passe på å trene modellen på nytt.   Det som er kjent fra AI-modeller er at om de får inn-data de aldri har blitt trent på - så kan de feile, og feile spektakulært. (Plutselig er de gått fra å ha 99,999% treffsikkerhet til å ha 40% treffsikkerhet eller mindre).   Spørsmålet blir sånn sett om Tesla har trent AI-modellen tilstrekkelig på motorsykler og alle mulige varianter av kjøretøy.

Nå blir det kanskje et søkt eksempel men kanskje stripe-lykt kan oppfattes av AI-modellen som et neonlys på et bygg - og AI'en kan anta at det er et statisk objekt og ikke kjøretøy...

[Salvesen.]

Rune_says skrev (12 minutter siden):

Slik AI ("kunstig intelligens") fungerer så er det ikke nødvendigvis noen direkte avstandsmåling eller lignende.

AI betyr at man bygger en modell for hvordan inn-verdier skal transformeres til ut-data som danner grunnlag for svar/automatiserte reaksjoner/osv.   Modellen trenes på alle mulige bilder/filmer av situasjoner og eventuelt kontinuerlig.  Over tid vil en slik modell trent på fantastisk mye data få en treffsikkerhet som er større enn ved andre metoder.  Modellen har "lært" seg hvordan den skal gi ut-data basert på inn-data.  Den ferdig trente modellen/nevrale nettverket o.l. kan så ofte kondenseres til en statisk modell som tar veldig lite plass - altså reagerer AI både raskere og mer treffsikkert.

Men så mitt poeng ift nye biler som ikke har to separate frontlyker/baklykter men kanskje en lang stripe - dette er nytt.  Da må man passe på å trene modellen på nytt.   Det som er kjent fra AI-modeller er at om de får inn-data de aldri har blitt trent på - så kan de feile, og feile spektakulært. (Plutselig er de gått fra å ha 99,999% treffsikkerhet til å ha 40% treffsikkerhet eller mindre).   Spørsmålet blir sånn sett om Tesla har trent AI-modellen tilstrekkelig på motorsykler og alle mulige varianter av kjøretøy.

Nå blir det kanskje et søkt eksempel men kanskje stripe-lykt kan oppfattes av AI-modellen som et neonlys på et bygg - og AI'en kan anta at det er et statisk objekt og ikke kjøretøy...

Modellen er trent med radar og USS data fra millioner av biler kjørt millioner av km. Den er nå så god at Tesla selv mener at de ikke lengre er tjent med radar og USS. De gir mer støy en nytte i modellen nå. Etter deres mening.

[Rune_says]

Salvesen. skrev (20 timer siden):

Modellen er trent med radar og USS data fra millioner av biler kjørt millioner av km. Den er nå så god at Tesla selv mener at de ikke lengre er tjent med radar og USS. De gir mer støy en nytte i modellen nå. Etter deres mening.

Forutsetter vel at kameraene ikke er dekket av saltslaps el. lign. pluss at de har ganske lav oppløsning. Radar er jo kjekt ift uforutsette objekt (bil uten lys, jordras ut i veien,  elg som går ut i veien osv...).    AI kan vi enkelt si er erfaringsbasert, så når det kommer nye ting som den ikke er trent på så kan det bli feiltolkning.  Det gjelder oss mennesker også men vi har bedre "kamera" med innebygget avstandsforståelse og stabilisering.  En viktig forskjell mellom AI og mennesker er også at vi har en langt videre erfaring og trenes kontinuerlig, så uventede nye ting kan gjenkjennes langt bedre.  Vi forstår umiddelbart at bilen med streklykter er en bil med nye kule lys.    Her en litt artig video om hvilke spesifikasjoner et kamera måtte ha for å matche øyet.

 

[Salvesen.]

Rune_says skrev (3 minutter siden):

Forutsetter vel at kameraene ikke er dekket av saltslaps el. lign. pluss at de har ganske lav oppløsning. Radar er jo kjekt ift uforutsette objekt (bil uten lys, jordras ut i veien,  elg som går ut i veien osv...).    AI kan vi enkelt si er erfaringsbasert, så når det kommer nye ting som den ikke er trent på så kan det bli feiltolkning.  Det gjelder oss mennesker også men vi har bedre "kamera" med innebygget avstandsforståelse og stabilisering.  En viktig forskjell mellom AI og mennesker er også at vi har en langt videre erfaring og trenes kontinuerlig, så uventede nye ting kan gjenkjennes langt bedre.  Vi forstår umiddelbart at bilen med streklykter er en bil med nye kule lys.    Her en litt artig video om hvilke spesifikasjoner et kamera måtte ha for å matche øyet.

 

De har trent kamera til å detektere skit. En får feilmelding og beskjed om å vaske. 

Og tesla har vell mest treningsdata av noen i hele verden på dette området siden de har hatt biler kjørende med dette systemet i årvis og samlet treningsdata og lablet det. 

[nomore]

Salvesen. skrev (12 minutter siden):

De har trent kamera til å detektere skit. En får feilmelding og beskjed om å vaske. 

Og tesla har vell mest treningsdata av noen i hele verden på dette området siden de har hatt biler kjørende med dette systemet i årvis og samlet treningsdata og lablet det. 

Og til tross for å ha mest treningsdata i hele verden så sliter de altså med automatiske vindusviskere og fantombremsing på ACC.

[Salvesen.]

nomore skrev (8 minutter siden):

Og til tross for å ha mest treningsdata i hele verden så sliter de altså med automatiske vindusviskere og fantombremsing på ACC.

Du har ikke FSD stack. Det er denne som trenes. AP vedlikeholdes minimalt, da det er ett dødende produkt så snart FSD godkjennes. 

[uname -i]

nomore skrev (15 minutter siden):

Og til tross for å ha mest treningsdata i hele verden så sliter de altså med automatiske vindusviskere og fantombremsing på ACC.

Det å kjenne igjen parkerte semi-trailere og utrykningskjøretøyer ser også ut til å være vanskelig å lære seg. 10 år og counting.

[nomore]

Salvesen. skrev (39 minutter siden):

Du har ikke FSD stack. Det er denne som trenes. AP vedlikeholdes minimalt, da det er ett dødende produkt så snart FSD godkjennes. 

Ok. Men problemet er like reelt for de som kjører rundt med disse utfordringene.

Det øker ikke tilliten til systemet når de ikke klarer å løse dette for folk flest. Forskjellen mellom AP og FSD er ikke noe folk nødvendigvis har et forhold til og da hjelper det lite på tilliten å si at skille er AP og FSD. Like reelt er oppfatningen til folk at en ikke kan stole helt på en bil som fantombremser ut av det blå i 90km/t eller ikke klarer å forstå at det ikke regner når den plutselig bestemmer seg for å tørke ruten som en gal.

Hvordan skal folk stole på at den klarer å ta større avgjørelser i mer utfordrende omgivelser?

Jeg sier ikke at den ikke klarer det, men jeg kjenner på en tvil allikevel. Spesielt når en ser at de går bort fra flere og flere sensorer kun for å stole på kameraene i bilen.

[Salvesen.]

uname -i skrev (43 minutter siden):

Det å kjenne igjen parkerte semi-trailere og utrykningskjøretøyer ser også ut til å være vanskelig å lære seg. 10 år og counting.

Åja, er dette ett problem for FSD? Dette er jo ett normalt problem for biler med radar, noe tesla ikke har lengre. I tillegg kom FSD i 2016, så nei det er ikke 10 år. Før dette brukte de mobileye...

[Salvesen.]

nomore skrev (2 minutter siden):

Ok. Men problemet er like reelt for de som kjører rundt med disse utfordringene.

Det øker ikke tilliten til systemet når de ikke klarer å løse dette for folk flest. Forskjellen mellom AP og FSD er ikke noe folk nødvendigvis har et forhold til og da hjelper det lite på tilliten å si at skille er AP og FSD. Like reelt er oppfatningen til folk at en ikke kan stole helt på en bil som fantombremser ut av det blå i 90km/t eller ikke klarer å forstå at det ikke regner når den plutselig bestemmer seg for å tørke ruten som en gal.

Hvordan skal folk stole på at den klarer å ta større avgjørelser i mer utfordrende omgivelser?

Jeg sier ikke at den ikke klarer det, men jeg kjenner på en tvil allikevel. Spesielt når en ser at de går bort fra flere og flere sensorer kun for å stole på kameraene i bilen.

Ja jeg skulle gjerne sett FSD stack her hjemme jeg. Sliter dog veldig lite med slike problemer om jeg bruker systemet som tiltenkt. 

[uname -i]

Salvesen. skrev (4 minutter siden):

Åja, er dette ett problem for FSD? 

Det er et problem for de som blir påkjørt.

[Salvesen.]

uname -i skrev (1 minutt siden):

Det er et problem for de som blir påkjørt.

Ja, som sagt er det ett normalt problem for biler som lener seg på radar. bare til å åpne manualer, det er stort sett ett notat om stillestående kjøretøy og at disse kan bli filtrert vekk og en kan ende opp med kollisjon. 

[uname -i]

Salvesen. skrev (Akkurat nå):

Ja, som sagt er det ett normalt problem for biler som lener seg på radar. bare til å åpne manualer, det er stort sett ett notat om stillestående kjøretøy og at disse kan bli filtrert vekk og en kan ende opp med kollisjon. 

Merkelig at det er så utrolig mange saker hos NHTSA om Teslaer som har kræsjet inn i utrykningskjøretøyer når "alle andre" har det samme problemet.

[Salvesen.]

uname -i skrev (Akkurat nå):

Merkelig at det er så utrolig mange saker hos NHTSA om Teslaer som har kræsjet inn i utrykningskjøretøyer når "alle andre" har det samme problemet.

Hva er % fordelingen?