Teslas selvkjøringssystem granskes av myndighetene

[uname -i]

hekomo skrev (2 minutter siden):

Tesla har aldri sagt at de har selvkjøring i dag.

De har en (sterkt redigert) video som viser at bilen kjører selv og Musk påstår at den eneste grunnen til at en sjåfør sitter der er "juridiske grunner".

Det var i 2016, 5 år siden. Like mange år har de brukt å ikke klare å gjenkjenne et stoppet utrykningskjøretøy. Med tanke på at disse er SVÆRE, er lakkert i øyenfallende farger og også har digre roterende blå lys, så skulle man tro at det var en overkommelig oppgave. Og ikke minst en prioritert oppgave for det er vel neppe noe verre enn at 2,5 tonn Tesla  i 110 km/t braser inn i utrykningskjøretøyet til de som prøver å gjøre et livreddende arbeid.

En livsfarlig, kriminell svindel.

[hekomo]

linux-fan skrev (20 timer siden):

Er vel litt skummelt med shadow mode for bruk til læring hos enkelte bllister som nesten eller helt skaper ulykker (vikeplikt, fotgjengere, barn, elg, etc.), kjører mot envegskjøringer, børner, kjører fra politi, berusede, etc.. Hva er riktig fart etter forholdene 120 eller 60?

Tar biler selv hensyn til sin egen bakkeklaring forresten, lave biler trenger å bremse flere steder enn off roadere?

Er skummelt å la bilen kjøre selv til den gir deg en alarm, man bør få info undervegs, om hva bilen "ser" og eventuelt ting den overser bevist, basert på ulike følere, og hva den kommer til å gjøre, så kan man overstyre tidlig og få hjelp, og lettere å være aktiv.

Det er ikke noe skummelt fordi de kan samle inn data fra veldig mange biler, og dermed få "gjennomsnittssjåføren", mens de som er utenfor, og som f.eks. havner i ulykker, vil jo bli druknet av alle andre. Og dessuten vil systemet sannsynligvis registrere dersom det er en ulykke.

Shadow mode har ikke noe med at bilen kjører selv å gjøre. Shadow mode er at bilen "later som" den kjører. Det er sjåføren som styrer, men bilen gjetter underveis på hva den ville gjort, og sammenligner det med hva sjåføren faktisk gjorde.

[hekomo]

Gunnar Mo skrev (9 timer siden):

Nå er vel dette én av en lang rekke undersøkelser fra NHTSA. Poenget er at man ser konkret på Tesla og "blinkende lys". Er dette et problem hos andre leverandører også? Hvis det er en bias her så er det vel snarere på grunn av TU sin hang til å skrive om Tesla/Musk.

Hva med å lese hva jeg skriver og følge linken før du spør om noe som allerede er besvart? Ja, det er helt vanlig at avanserte førerassistenter har problemer med stillestående kjøretøy.

Hvilken lang rekke undersøkelser?

[NERVI]

hekomo skrev (16 minutter siden):

Nei, Autopilot er som en hvilken som helst annen "cruise control". Føreren er ansvarlig, og ferdig med det.

Mer avansert CC kan holde fil og avstand til bilen foran, men føreren er fortsatt ansvarlig.

Og ser du for eksempel på Tesla, så maser den hele tiden på deg om at du må følge med. Andre systemer bruker blant annet et kamera til å følge med på øynene og maser hvis bilen detekterer at du ikke følger med.

Så nei, Volvo, Toyota, Tesla og andre fraskriver seg ikke noe ansvar ved å tilby cruise control.

Man pleier å skille mellom teknisk- og menneskelig svikt. 

[hekomo]

uname -i skrev (2 minutter siden):

De har en (sterkt redigert) video som viser at bilen kjører selv og Musk påstår at den eneste grunnen til at en sjåfør sitter der er "juridiske grunner".

Eh ja, en skrytevideo som alle andre som driver med selvkjøring også har. Men det er ingen som har påstått at dagens biler er selvkjørende.

Sitat

Det var i 2016, 5 år siden. Like mange år har de brukt å ikke klare å gjenkjenne et stoppet utrykningskjøretøy. Med tanke på at disse er SVÆRE, er lakkert i øyenfallende farger og også har digre roterende blå lys, så skulle man tro at det var en overkommelig oppgave. Og ikke minst en prioritert oppgave for det er vel neppe noe verre enn at 2,5 tonn Tesla  i 110 km/t braser inn i utrykningskjøretøyet til de som prøver å gjøre et livreddende arbeid.

Hvis du følger litt bedre med før du bryter ut i raseri, så vil du få med deg at det å gjenkjenne stasjonære ting er et problem for de fleste avanserte førerassistentsystemer:

https://arstechnica.com/cars/2020/08/new-cars-can-stay-in-their-lane-but-might-not-stop-for-parked-cars/

Sitat

En livsfarlig, kriminell svindel.

Takes one to know one.

[hekomo]

NERVI skrev (2 minutter siden):

Man pleier å skille mellom teknisk- og menneskelig svikt. 

Og så? Med førerassistenter så er det føreren som er ansvarlig.

[uname -i]

hekomo skrev (7 minutter siden):

Eh ja, en skrytevideo som alle andre som driver med selvkjøring også har. Men det er ingen som har påstått at dagens biler er selvkjørende.

Det er jo bare ett av dusinvis med eksempler hvor de lurer kunder til å tro at systemet er bedre enn det og dermed lurer dem ut i døden. Alt for få mer penger på bunnlinjen. Og når en uskyldig person som bare skulle sjekke taxien eller traileren sin blir drept av dette ubrukelige systemet så kommer fansen og forsvarer det og skylder på alle andre.

 

hekomo skrev (8 minutter siden):

Hvis du følger litt bedre med før du bryter ut i raseri, så vil du få med deg at det å gjenkjenne stasjonære ting er et problem for de fleste avanserte førerassistentsystemer:

Er det noen av dem som sier at systemet er så nærme perfeksjon at man vil ha selvkjøring  innen kort tid? Er det noen som kaller et Level 2-system for Full Selvkjøring?

Jeg håper at Musk snart blir drapstiltalt. Folk sitter i fengsel for mindre.

[oophus]

hekomo skrev (2 timer siden):

Shadow mode gjør noe ikke noe der og da. Det er bare en måte Tesla samler inn data på og forbedrer selve systemet sentralt. Det vil så bli sendt ut til bilene ved en senere oppdatering.

Det å rapportere inn manuelle handovers er ikke det samme som at bilen blir bedre av din kjøring. For at det skal kunne skje, så må bilen dele komplette datasett å trenes på. Det skjer ikke og har aldri skjedd. Det eneste som skjer er at bilen deler bilder og korte videosnutt. Disse må manuelt flagges inn mot treningen, og treningen det omhandler er typisk "image recognition" trening . Altså er mengden datasett mot trening minimalt fra Tesla flåten, ettersom input avhenger av mulig menneskelig output fra den inputen. 

Problemet som omhandler image recognition mot valg som blir tatt i fart basert på ID etter image recognition algoritmer er to vidt forskjellige problemer. 

 

hekomo skrev (2 timer siden):

Hva har Green med saken å gjøre? Snakker du fortsatt om Shadow Mode? Shadow Mode er ikke ment å lære hver individuelle bil noe, men sendes som sagt til Tesla som bruker det til å trene opp systemet sentralt.

Green har målt hva bilflåten deler. Det har direkte med saken å gjøre, ettersom det er deterministisk mot hva som faktisk er mulig å trene på angående dataene bilflåten sender inn. Green har altså testet Shadow Mode, og han tester den andre kjernen i fysisk ferdsel i tillegg. 

 

hekomo skrev (2 timer siden):

At fantombremsing kan skje på samme sted over tid er ikke så rart siden det sannsynligvis er ganske få oppdateringer for dagens Autopilit siden de foukserer på neste store versjon i forbindelse med FSD.

Haha, what? Den får du forklare om igjen. 

5 år med phantombremsing ved samme lokasjoner og 5 kollisjoner ved samme stein er høyst idiotisk statistikk å ha om bilflåten brukes for å bli bedre med komplette datasett som deles derifra. Det er et godt bevis mot tøyset som folk trur på, og at output fra bilflåten avhenger av mulig output og arbeidsmengde av mennesker som må kikke på bildene og videosnuttene som deles. 

Automatisk flagging av data mot NN trening er noe Tesla ligger årevis bak på å gjøre. 

 

hekomo skrev (2 timer siden):

Det virker som du rett og slett ikke har fått med deg fakta, og at du her pisker deg selv opp til et ekstremt sinne for så å rase mot Tesla over noe som, vel, egentlig ikke er noe kontroversielt.

1. Hva er feil? 
2. Hvem er sinna? 
3. Det som er kontroversielt er hva folk trur Tesla flåten gjør og deler av data, og hvordan dataene blir brukt. 

Om du opplever phantombremsning på 5 året på rad ved samme tunnel, så hadde jeg startet å bli skeptisk til at bilen din deler data til å bli bedre for deg selv. Tesla håndplukker nok slik data i større grad, fordi mulig trening begrenses av mulig arbeidstimer hos sine ansatte for å flagge dataene og undersøke resultatetene. 
 

[oophus]

hekomo skrev (2 timer siden):

"En fyr i bransjen"? En video på en time som du forventer at folk skal se, med en clickbait-tittel som tyder mer på at han er en grifter som ønsker å tjene penger på å slenge dritt om Tesla enn at han har noe seriøst budskap.

1. Ja, han heter Mahmood Hikmet. 
https://nz.linkedin.com/in/moodyhikmet

2. Det å se videoen er valgfritt. Det er derfor jeg ikke siterte noen. 

3. Bransjen han er en del av er veldig opptatt av temaet han tar opp. Så han kommer med et seriøst budskap. 

[Samms]

On 8/16/2021 at 5:11 PM, TL1000S said:

Myndighetene gjør helt rett i å undersøke her.
"Selvkjøring" bør ikke tillates (mis)brukt inntil det er 100% sikkert.
Og det er det vel ingen produsenter av (el)bil som mener de har klart. Inkludert Tesla.

Men her ser vi faren ved å gå litt "høyt ut" og si man har ett system som tillater autopilot aka "selvkjøring".
Klart det vil være noen med lite vett eller rett og slett rusproblemer som velger å la bilen kjøre.
Da blir det slike tilstander.

På skip var "autopilot" eit system som holdt skipet på ein kurs og ingenting meir. I dag kan autopilot på skip også styre mot ein kartreferanse. Tilsvrande for fly. Autopiloten holdt kurs, flyet stabilt i rull og kanskje stabil høgde. I dag held autopiloten flyet stabilt, på ein fart i ei høgde og styrer mot ein kartreferanse. Merk, hverken på skip eller fly har autopiloten noko form for utkikk og antikollisjonsfunksjon.

Ein førerassistent, "sjølvkøyring" som held køyrefeltet, hastigheit og avstand til bil framfor er då mykje meir enn ein autopilot. Om det skal tillatast, ja så lenge det ikkje medfører meir ulykker enn heilt manuell køyring. Det treng ikkje vere 100% sikkert, det treng berre vere betre enn "manuell" køyring.

[bojangles]

4 hours ago, uname -i said:

Jeg håper at Musk snart blir drapstiltalt. Folk sitter i fengsel for mindre.

 

Javel? Angry much forresten? 

Hvem burde tiltales samtidig med Musk? Direktørene hos ICE produsentene? De er vel strengt tatt ansvarlig for langt flere dødsfall, uføre og kronisk syke? Eller hva med direktørene til verdens våpenprodusenter? Eller de som produserer pil og bue for salg? Burde gjengen havne på samme anstalt og dele celler eller fortjener de kanskje den mest tenkelige fornedring og bør plasseres med verdens sinteste mordere? Hvor mange menneskers død mener du Musk er skyldig i?

Nå når ting åpner opp mer og mer så kanskje greit å forsøke å ta noen turer ut litt oftere slik at du får nye inntrykk og kanskje møter nye spennende mennesker? Det virker som du har mye innestengt aggresjon i deg. Aggresjon du gjerne retter mot Tesla og Musk. Om du ikke liker folk så kanskje vedkløyving og stabling kunne blitt en hobby? Eller hva med å svømme noen kilometer hver dag? Eller i det minste en boksesekk og et par gode hansker?

[oophus]

bojangles skrev (24 minutter siden):

 

Javel? Angry much forresten? 

Hvem burde tiltales samtidig med Musk? Direktørene hos ICE produsentene? De er vel strengt tatt ansvarlig for langt flere dødsfall, uføre og kronisk syke? Eller hva med direktørene til verdens våpenprodusenter? Eller de som produserer pil og bue for salg? Burde gjengen havne på samme anstalt og dele celler eller fortjener de kanskje den mest tenkelige fornedring og bør plasseres med verdens sinteste mordere? Hvor mange menneskers død mener du Musk er skyldig i?

Nå når ting åpner opp mer og mer så kanskje greit å forsøke å ta noen turer ut litt oftere slik at du får nye inntrykk og kanskje møter nye spennende mennesker? Det virker som du har mye innestengt aggresjon i deg. Aggresjon du gjerne retter mot Tesla og Musk. Om du ikke liker folk så kanskje vedkløyving og stabling kunne blitt en hobby? Eller hva med å svømme noen kilometer hver dag? Eller i det minste en boksesekk og et par gode hansker?

Finnes det noen bil & bue produsenter som sier at pilene styres bort fra mennesker slik at deres produkter er tryggere enn andres produkter da? 

Posten din er bygget på ad hominem og whataboutism og er basert på kun de to tingene. Ikke akkurat særlig innsiktsfullt, eller nyttig i en debatt. 

[NERVI]

hekomo skrev (5 timer siden):

Og så? Med førerassistenter så er det føreren som er ansvarlig.

Jeg skjønner at man mener  det, og spørsmålet blir da om assistenten forstyrrer, gjør føreren mindre observant/sløvere, eller blir mer fristet til å drive med andre ting?

https://aaafoundation.org/understanding-the-impact-of-technology-do-advanced-driver-assistance-and-semi-automated-vehicle-systems-lead-to-improper-driving-behavior/

Endret 17. august 2021 av NERVI

[bojangles]

2 hours ago, oophus said:

Finnes det noen bil & bue produsenter som sier at pilene styres bort fra mennesker slik at deres produkter er tryggere enn andres produkter da? 

Posten din er bygget på ad hominem og whataboutism og er basert på kun de to tingene. Ikke akkurat særlig innsiktsfullt, eller nyttig i en debatt. 

 

Rull inn a Hjørdis. Kommentaren jeg besvarte var ikke veldig mye verdt og derfor ble svaret som det ble. Liker du ikke det jeg skriver så finnes det en forumfunksjon kalt ignorer bruker. Så unngår du for fremtiden å bli plaget av usakligheter. Eller du kan rapportere innlegget til moderator. Den hersketeknikken din kan du bare droppe umiddelbart. 

[oophus]

bojangles skrev (34 minutter siden):

Rull inn a Hjørdis. Kommentaren jeg besvarte var ikke veldig mye verdt og derfor ble svaret som det ble. Liker du ikke det jeg skriver så finnes det en forumfunksjon kalt ignorer bruker. Så unngår du for fremtiden å bli plaget av usakligheter. Eller du kan rapportere innlegget til moderator. Den hersketeknikken din kan du bare droppe umiddelbart. 

Du fortsetter i samme stil ser jeg. Hvorfor følger du ikke ditt eget tips og ignorerer brukeren du kaster personlig møkk mot slik at resten slipper lese det? Som sagt, det bidrar særledes lite til diskusjon på et diskusjonsforum. 

[Gunnar Mo]

17 hours ago, hekomo said:

Hva med å lese hva jeg skriver og følge linken før du spør om noe som allerede er besvart? Ja, det er helt vanlig at avanserte førerassistenter har problemer med stillestående kjøretøy.

Hvilken lang rekke undersøkelser?

Hva med om du leser det jeg skriver? Dette ser altså konkret på blinkende lys, ikke stillestående kjøretøy. Ingenting om dette i den artikkelen du linker til. Man ser da sannsynligvis på om lysene i seg selv skaper ekstra problemer.

[KriZZ]

Hvorfor er dette en sak?

 

Er ingen selvkjøring enda og kun en førerassistent som kan ansees som en litt mer komplisert cruise kontroll som bremser og holder feltet sitt.

 

Fører sitter med det fulle ansvar og er pliktet til å følge med til enhver tid og holde hender på rattet.

 

Medias agenda mot tesla er helt latterlig og folk biter rett på.

[bojangles]

9 hours ago, oophus said:

Du fortsetter i samme stil ser jeg. Hvorfor følger du ikke ditt eget tips og ignorerer brukeren du kaster personlig møkk mot slik at resten slipper lese det? Som sagt, det bidrar særledes lite til diskusjon på et diskusjonsforum. 

Du har helt rett, jeg skulle fulgt mitt eget råd og blåst i å svare. Ble for het i hodet rett og slett. Beklager. 

Endret 18. august 2021 av bojangles

[sverreb]

18 minutes ago, KriZZ said:

Hvorfor er dette en sak?

Fordi denne cruisekontrollen later til å bli brukt på feil måte, med negative utfall som konsekvens.

En probe fra myndighetene vil presumptivt omhandle både hva slags kommunikasjon tesla har i sammenheng med markedsføringen av denne ADAS mekanismen, og hvorvidt tesla har vært sitt ansvar bevisst i å hindre misbruk i utformingen.

Fundamentalt sett kan en produsent være delansvarlig for brukerens misbruk om misbruket er eller burde vært forutsigbart, og produsenten har eller burde hatt evne til å hindre slikt forutsigbart misbruk ved å designe anneledes. En disclaimer er gjerne i så måte ikke tilstrekkelig. Vi er alle kondisjonert til å ignorere slike.

Markedsføringsdelen har blitt diskutert ovenfor, det trenger vi ikke gå over igjen, men spørsmål om de tekniske egenskapene kan være hvorfor systemet ikke er geofencet slik andre bilprodusenter gjør, hvorvidt systemet er tilstrekkelig testet før det slippes til sluttbrukere, og hvorvidt systemet i tilstrekkelig grad sikrer seg at sjåføren følger med. Man kan også komme inn på detaljer omkring hvordan systemet brukes og i hvilken grad det innbyr til samhandling eller at systemet gir inntrykk av å ta helt over.

25 minutes ago, KriZZ said:

Medias agenda mot tesla

NHTSA er ikke media.

[John-B]

18 hours ago, uname -i said:

En livsfarlig, kriminell svindel.

Hva er dine tanker om alle livene Autopilot har reddet? Eller lever du i en illusjon om at det ikke skjer?

Jeg kan være enig i at måten Autopilot har vært solgt på har vært tilnærmet en svindel. Men at Autopilot har forårsaket flere dødsfall enn den har reddet har jeg overhode ingen tro på. De aller fleste tilfeller hvor autopilot har reddet liv vil vi aldri høre om, i de fleste tilfeller vil ikke en gang sjåføren vite at en ulykke ble hindret.

Endret 18. august 2021 av John-B