– Vi er ikke i nærheten

[Diskusjon.no]

Nvidia mener selvkjørende biler er langt unna.

Les hele artikkelen på Tek.no her

[Kajac]

Min spådom: Selvkjørende biler vil ikke komme i løpet av vår levetid.

[sverreb]

27 minutes ago, Kajac said:

Min spådom: Selvkjørende biler vil ikke komme i løpet av vår levetid.

Selvkjørende biler er her alt. Se på hva waymo gjør. Man må imidlertid ha en robust sensorsuite og ha full kontroll på operasjonelle grenser.

Selvkjørende biler i private hender er nok langt ut. Og om man bare lener seg på nevralnett kommer man neppe i mål. Uten en etterprøvbar sikkerhetsmodell hvor man kan peke på konkrete forbedringsmuligheter etter uønskede hendelser slik vi kan i annen offentlig transport vil ikke løsningene aksepteres.

Jeg ser ikke nvidia og andre AI leverandørers rolle i førerautomasjon (eller automasjon av andre sikkerhetskritiske aktiviteter) som spesiellt viktige.

Tanken om at man bare kan kaste stadig større parametersett inn i en AI modell for å løse slike problemer kommer sannsynligvis til å svinne hen, ikke bare fordi det ikke skalerer, men også fordi det ikke konvergerer til noen robust løsning.

TLDR: Nvidia leverer hammere, og de er i ferd med å motvillig innse at problemet er ikke en spiker.

Endret 7 timer siden av sverreb

[uname -i]

Alle vet hvem NVIDIA sikter til her:

Advarer om hastverk

– Bransjen må gå sakte frem med dette. Hvis ett firma gjør én feil, blir hele bransjen skjøvet år tilbake, advarer han videre.

Han understreker derfor behovet for å ikke ta snarveier i utviklingen av selvkjøringsteknologi. En teknologi han til Autocar påpeker at de bare kan rulle ut fullstendig når de har bevist at det er helt trygt.

[Iki]

Trenger det egentlig å være fullstendig trygt?

Er det ikke nok at det er tryggere enn mennesker selv?

[Kalle Klo]

18 minutes ago, Iki said:

Trenger det egentlig å være fullstendig trygt?

Er det ikke nok at det er tryggere enn mennesker selv?

Hvordan beviser du det? Finnes så mye muligheter for juks. Og hvilke mennesker? De med 2 i promille? De gjennomsnittlige? De aller beste? 

Og i hvilke forhold? I snøstorm og holke på Finnmarksvidda eller i solskinn på en rett strekning på motorvei i Arizona?

PR-messig og følelsesmessig så er det en stor forskjell på om Olga på 80 får et illebefinnende og kjører på en skoleklasse eller om det er en selvstyrt bil som gjør det. Særlig om man ikke kan finne ut hvorfor AIen gjorde som den gjorde. Som @sverreb nevner, så tror jeg det må en modell inn der man faktisk kan forstå hva som går feil og så gjøre faktiske forbedringer. Det er slik luftfarten har blitt så trygg som den har blitt. Det krever en god del samarbeid, innsats og integritet fra fabrikantene. 

[sverreb]

33 minutes ago, Iki said:

Trenger det egentlig å være fullstendig trygt?

Er det ikke nok at det er tryggere enn mennesker selv?

Det må finnes en vei til å elliminere alle feil. Det vil ikke være akseptabelt at det skjer en dødelig feil og at man ikke kan identifisere aksjoner som i fremtiden vil elliminere denne feilen. Det er her AI kommer til kort siden vi ikke egentlig kan identifisere korreksjoner i en AI som kan korrigere en feil.

Og det er ikke nok at det er tryggere enn mennesker. Når man overlater sikkerheten sin til andre, og særlig maskiner blir kravet mye mye høyere. Bare se hva vi forventer av luftfart.

[The Avatar]

Sitat

En teknologi han til Autocar påpeker at de bare kan rulle ut fullstendig når de har bevist at det er helt trygt.

Dette er ei logisk feilslutning.

Per i dag så har vi ei unaturleg høg forventning til at teknologien må være ufeilbarleg før den kan takast i bruk. Men om vi berre justerer forventningane til at sjølvkøyrande bilar skal være minst like trygge som bilar som blir køyrt av mennesker så er vi der alt.

Særleg i land som USA der det av rein nødvendigheit ikkje er mogleg til å sette enormt høge krav for å kunne kvalifisere til førarkort så skal ikkje ein sjølvkøyrande bil være veldig godt før den er tryggare enn ein gjennomsnittleg bilførar.
Skal vi stille same kravet til bilførarane så må førarkortet være ei universitetsutdanning med årleg resertifisering.

Så og seie alle bilulykker som skjer i dag oppstår på grunn av førarfeil, det er svært sjeldan at det oppstår bilulykker som berre skuldast tekniske feil, og sjølv då så er det ofte eit moment av at føraren enten ikkje har undersøkt eller har feilvurdert betydninga av feilen.
For ikkje å snakke om at dei fleste mennesklege bilførarar har eit avslappa forhold til risiko og trafikkreglar. Det er ikkje alltid at det er ein fordel at føraren skal ha moglegheit til å sjølv vurdere at det må gå greit å ligge i 60 i 50 sona, eller at når det er skilta 70 km/t så er det greit å ligge i 70 sjølv om det er snø i vegen, osv.

 

Det sagt så meiner eg at det største hinderet for sjølvkøyrande bilar er trafikkreguleringa og måten vi bygger infrastruktur på.
Dei største utfordringane for sjølvkøyrande bilar er at i dag så må dei sjølvkøyrande bilane køyre på menneskene sine premiss. Det betyr at den sjølvkøyrande bilen må følge fartsgrensene som er fastsatt basert på menneskene sin evne til å oppfatte og reagere på farer, det betyr at den sjølvkøyrande bilen må kunne tolke om det er den gule eller den raude lampa på trafikklyset som lyser, osv.
På grunn av dette så må dagens sjølvkøyrande bilar simulere eit menneske, der viktigaste utslaget er at den sjølvkøyrande bilen må heilt eller delvis være basert på visuell informasjonsinnhenting, og det er der det er utfordrande.
Ei datamaskin har ikkje like lett for å tolke signala frå eit kamera eller lidar og gjere dette om til ein nøyaktig 3D modell som våre mennesklege auger og hjerne klarer, men det er ikkje store endringane vi treng på vegane for å gjere det langt enklare for datamaskiner å tolke trafikkbildet.

 

Dersom vi vil ha 0 drepte i trafikken så er løysinga å forby mennesklege førarar og berre tillate sjølvkøyrande bilar. 
Den aller enklaste måten å redusere talet på trafikkdrepte er ved å ta ned farta. Det er langt lettare å programere ei datamaskin til å aldri køyre fortare enn anbefalt hastigheit, enn det er å prøve å oppfordre utolmodige mennesker til å avpasse farta.
Tilsvarande er det langt lettare å programere ei datamaskin til å ikkje ta unødige sjansar i trafikken.

[The Avatar]

sverreb skrev (16 minutter siden):

Og det er ikke nok at det er tryggere enn mennesker. Når man overlater sikkerheten sin til andre, og særlig maskiner blir kravet mye mye høyere. Bare se hva vi forventer av luftfart.

I luftfarten så legg ein all sin tillit på piloten og systemet, og så må ein berre krysse fingrane og håpe at piloten har møtt på edru på jobb.
Psykologisk sett så kjennes det betre ut å sjølv sitte bak rattet og ha "kontroll" men likefult så aksepterer vi å være passasjer i fly, buss og taxiar utan at det i seg sjølv er eit stort problem.

Det er alltid kjekt å få svar på kva som gjekk gale etter ei ulykke slik at vi kan fikse problemet, men det er ikkje alltid at det i det heile tatt er verdt ressursbruken å fikse feila sjølv om vi veit om dei.
Det er sjølvsagt kipt å stryke med i trafikken på grunn av ei feil i programeringa, men det er sanneleg ikkje nokon meir tilfredsstillande død å stryke med fordi taxisjåføren gløymte å sjekke om det var klart frå høgre.

Det skjer med ujamne mellomrom at pilotar blir stoppa på Gardermoen med promille, og med tanke på kor sjeldan det er at politiet stiller opp for å ta promillekontroll av pilotane så er det nok også mange pilotar som slepp unna.
Det er ingenting i vegen for at vi kunne hatt eit system som sikra at det alltid var både ruskontroll og full helsevurdering av pilot og bestning før kvar einaste flytur, men det er det ingen som er villige til å betale for.
Det er såpass sjeldan vi har alvorlege luftfartsulykker, så då aksepterer vi at enkelte pilotar flyg utan å være mentalt skikka, og at det av og til skjer ulykker fordi piloten ikkje fekk med seg meldinga frå tårnet eller feilmeldinga på instrumentpanelet.

[Radon Ready]

2 hours ago, Diskusjon.no said:

Nvidia mener selvkjørende biler er langt unna.

Les hele artikkelen på Tek.no her

Fra artikkelen (sitat):

Quote

Tesla er blant bilmerkene som har snakket lengst om selvkjøring. Allerede i 2019 skulle de første Teslaene kjøre helt av seg selv. I 2021 hevdet Tesla-sjef Elon Musk at «full selvkjøring» snart var klar for norske bilister.

Nei, her er Tek historieløs, for Musk/Tesla begynte allerede i 2014 å love "selvkjørende biler til neste år" (altså i 2015).

For de som er interessert i en mer utfyllende og kronologisk liste over hva slags pisspreik Musk har liret av seg opp gjennom årene om hva nær fremtid visstnok skal bringe oss alle, så skrev jeg dette innlegget, selvfølgelig til glede for alle som har stappet penger i lommene til denne klovnen ved å kjøpe Tesla, dvs bilen som gjenspeiler sjefen for selskapet som laget den, ved at den ligger på desidert  jumboplass i alle EU-kontroll-statistikker mht feil og mangler.

 

[Kajac]

Radon Ready skrev (38 minutter siden):

Fra artikkelen (sitat):

Nei, her er Tek historieløs, for Musk/Tesla begynte allerede i 2014 å love "selvkjørende biler til neste år" (altså i 2015).

For de som er interessert i en mer utfyllende og kronologisk liste over hva slags pisspreik Musk har liret av seg opp gjennom årene om hva nær fremtid visstnok skal bringe oss alle, så skrev jeg dette innlegget, selvfølgelig til glede for alle som har stappet penger i lommene til denne klovnen ved å kjøpe Tesla, dvs bilen som gjenspeiler sjefen for selskapet som laget den, ved at den ligger på desidert  jumboplass i alle EU-kontroll-statistikker mht feil og mangler.

 

Ikke bare Musk. I 2018 gikk Chevrolet/GM hardt ut og sa de skulle lansere den første ratt- og pedalløse bilen i 2019. Og her er vi i 2025, og dagens selvkjørings-teknologi er bare så vidt bedre enn det de hadde i 2015 😂

[Orion666]

sverreb skrev (2 timer siden):

Selvkjørende biler i private hender er nok langt ut.

Selvkjørende personbiler er her allerede. Dessverre krever bilprodusentenes advokater at vi skal holde hendene på rattet slik at det -juridisk sett» er vi som fører bilen og produsenten ikke blir ansvarlig ved ulykker.

[sverreb]

22 minutes ago, Orion666 said:

Selvkjørende personbiler er her allerede. Dessverre krever bilprodusentenes advokater at vi skal holde hendene på rattet slik at det -juridisk sett» er vi som fører bilen og produsenten ikke blir ansvarlig ved ulykker.

Det beste du kan få kjøpt som privatperson er SAE level 3 som når aktivert kan kjøre og takle uoppmerksomhet, men bare på motorvei og bare opp til ca 60 km/t. Pr. i dag.

Waymo har SAE level 4 biler i drift men du kan ikke kjøpe de og de har strenge begrensinger på operasjonsdomene. Ikke at de ikke ville kunne kjørt selv bedre enn det  aller meste av andre ADAS også utenfor de operasjonsddomenene, men ikke godt nok.

Alle andre løsninger er maks SAE level 2 og de kan og vil feile plutselig og på 'intressante' (Les: potensielt fatale) måter. Den eneste måten å bruke de trygt på er at de er en backup for sjåføren. I.e. ikke selvkjøring. Sjåføren må fortsatt føre bilen.

Endret 4 timer siden av sverreb

[Orion666]

sverreb skrev (1 time siden):

Det beste du kan få kjøpt som privatperson er SAE level 3 som når aktivert kan kjøre og takle uoppmerksomhet, men bare på motorvei og bare opp til ca 60 km/t. Pr. i dag.

Waymo har SAE level 4 biler i drift men du kan ikke kjøpe de og de har strenge begrensinger på operasjonsdomene. Ikke at de ikke ville kunne kjørt selv bedre enn det  aller meste av andre ADAS også utenfor de operasjonsddomenene, men ikke godt nok.

Alle andre løsninger er maks SAE level 2 og de kan og vil feile plutselig og på 'intressante' (Les: potensielt fatale) måter. Den eneste måten å bruke de trygt på er at de er en backup for sjåføren. I.e. ikke selvkjøring. Sjåføren må fortsatt føre bilen.

Volvo XC40 kjører helt av seg selv når du bruker cruise control, men erter ca 20 sekunder krever den at du holder i rattet ellers kommer det en lydalarm. 
Altså kjører den ikke selv, men den er fullt kapabel til å gjøre det om ikke softwaren ikke hadde lagt krav om at du må holde i rattet.

Det følgende er min spekulasjon, men jeg mener det er fordi at så lenge jeg holder i rattet er jeg den juridiske føreren. Volvo’s advokater skriver av ansvaret for bilens adferd i trafikken.

[Kalle Klo]

3 minutes ago, Orion666 said:

Volvo XC40 kjører helt av seg selv når du bruker cruise control, men erter ca 20 sekunder krever den at du holder i rattet ellers kommer det en lydalarm. 
Altså kjører den ikke selv, men den er fullt kapabel til å gjøre det om ikke softwaren ikke hadde lagt krav om at du må holde i rattet.

Det følgende er min spekulasjon, men jeg mener det er fordi at så lenge jeg holder i rattet er jeg den juridiske føreren. Volvo’s advokater skriver av ansvaret for bilens adferd i trafikken.

Det gjør de fordi feilraten er langt fra god nok til å faktisk kjøre uten oppsyn. Dessuten handler den neppe mindre idelle forhold (snøvær, veier uten midtstripe, tolke andre trafikanters oppførsel, forskjellige objekter i veien osv osv). 

For et par år siden kjørte en av Waymo bilene (altså de beste som eksisterer) rett ned en dame som gikk over veien med sykkel fordi selvstyringen ikke skjønte hva hun var. Og dette var MED oppsyn, han som skulle passe på satt og sløvet. 

[Orion666]

Kalle Klo skrev (19 minutter siden):

Det gjør de fordi feilraten er langt fra god nok til å faktisk kjøre uten oppsyn. Dessuten handler den neppe mindre idelle forhold (snøvær, veier uten midtstripe, tolke andre trafikanters oppførsel, forskjellige objekter i veien osv osv). 

For et par år siden kjørte en av Waymo bilene (altså de beste som eksisterer) rett ned en dame som gikk over veien med sykkel fordi selvstyringen ikke skjønte hva hun var. Og dette var MED oppsyn, han som skulle passe på satt og sløvet. 

Jeg tipper feilratene er langt bedre enn den menneskelige. Elektronikken er aldri trøtt, fikler aldri med radioen eller kjefter på unger i baksetet.

Utfordringen i dag er å utvikle kode for beslutninger som skal gjøres når ulykker er i ferd med å skje. Hvem skal reddes? Egne passasjerer? Barna i bilen som kommer i mot? Den dyreste bilen?

[Kalle Klo]

20 minutes ago, Orion666 said:

Jeg tipper feilratene er langt bedre enn den menneskelige. Elektronikken er aldri trøtt, fikler aldri med radioen eller kjefter på unger i baksetet.

Utfordringen i dag er å utvikle kode for beslutninger som skal gjøres når ulykker er i ferd med å skje. Hvem skal reddes? Egne passasjerer? Barna i bilen som kommer i mot? Den dyreste bilen?

Du kan tippe alt du vil, det må bevises.