Nvidia: – Tesla har sendt sjokkbølger gjennom bilindustrien

[Ola Thoresen]

de er mange situasjoner der ALLE selvkjørende biler alltid vil krasje og mennesker klarer fint, uansett teknologi...

det er galskap og hensynsløst å frakte levende dyr på den måten.

 

Fint om du kommer opp med faktisk, realistiske eksempler på sånne situasjoner.

[Ano__Nym]

Tesla har en stor fordel ved at de har designet hele nettverket i sin egen bil. Akkurat som i SpaceX rakettene. De andre leverandørene har opptil 18-20 forskjellige nettverk fra underleverandører, og tilsvarende eller fler antall protokoller som skal snakke sammen. Tipper det er en SW ingeniørs mareritt.

 

Det er en grunn til at Google og Apple ser på selvkjørende bil som et marked. De ser at bilprodusentene ikke vil klare dette på egenhånd og vil selge tjenestene sine til dem i etterkant.

[Odd Solberg]

Eventuelt la Tesla holde på litt for å se hvor mange som dauer, eller hvordan folk reagerer?

 

Hva skjer hvis en av disse bilene dreper en skoleklasse? Det kan være kroken på døra til det merket.

Jeg skal gi deg en annen langt mindre usansynlig hypotese:

Hva om en Tesla kjører ned en skoleklasse, uten at føreren hadde aktivert autopiloten og senere analyse påviser at bilens autonome autopilot ikke hadde kjørt ned skoleklassen, men latt alle parter forstatt trygt på reisen sin?

Hvis du først skal drøfte scenarioer, hvorfor ikke drøfte de mest sansynlige først?

Etterhvert som slike unødvendige ulykker avsløres vil debatten hvorvidt autonom kjøring skal bli et krav i bilene som har støtte for autonom kjøring. 

Akkurat slik ble påbud om bruk av sikkerhetsbelter innført i Norge og verden forøvdrig, og det er det som vil skje med autonom kjøring også. Snart har du bare lov til å kjøre selvkjøring på småveier og privat eiendom.

Endret 29. november 2016 av Odd Arne Roll

[Salvesen.]

de er mange situasjoner der ALLE selvkjørende biler alltid vil krasje og mennesker klarer fint, uansett teknologi...

det er galskap og hensynsløst å frakte levende dyr på den måten.

Javel, hvilke?

[Rune_says]

Tesla's førerassistanse er ikke perfekt og det er fortsatt sjåføren som er ansvarlig. Hvor godt "ser" egentlig dagens sensorer om det er syklister, barn, motorsyklister, osv (mindre objekter) ?

http://drm24.no/nyheter/trafikkulykke-pa-e18-1672741

 

Men et annet tanke-eksempel; Når bilene blir ekte selvkjørende om noen år og man kommer inn til delen av Oslo sentrum som fortsatt ikke er blokkert for biltrafikk, men hvor MDG har fjernet alle P-plasser.  Da setter man selvfølgelig bilen til å kjøre automatisk rundt kvartalet noen ganger til man er ferdig!   God idé ?  Miljøvennlig ?

 

Et annet eksempel er de som har svært dyre P-plasser på jobben - kan man da sette bilen til å returnere hjem og parkere der for så å kjøre tilbake til jobben ved arbeidsdagens slutt. God idé ?  Miljøvennlig ?

[tommyb]

Et annet eksempel er de som har svært dyre P-plasser på jobben - kan man da sette bilen til å returnere hjem og parkere der for så å kjøre tilbake til jobben ved arbeidsdagens slutt. God idé ?  Miljøvennlig ?

 

Kostnad alternativ 2 vil måtte være lavere enn alternativ 1 for at man velger en slik løsning. Der man kun har tilgang på svært dyre P-plasser, er det typisk bompenger. I tillegg vil forbruk (i tilfelle Tesla, elektrisitet) og verditap/slitasje strengt tatt måtte regnes med... 

[Per Buer]

Jeg skal gi deg en annen langt mindre usansynlig hypotese:

Hva om en Tesla kjører ned en skoleklasse, uten at føreren hadde aktivert autopiloten og senere analyse påviser at bilens autonome autopilot ikke hadde kjørt ned skoleklassen, men latt alle parter forstatt trygt på reisen sin?

 

Jeg mistenker at nettopp dette er planen. Bilene som produseres med maskinvare for autonom kjøring "kjører" i skyggemodus. Bilen later som om den kjører og tar avgjørelser om hvordan den ville kjørt om den hadde styrt bilen.

 

Det kommer til å bli ulykker med disse bilene. Og i hver eneste ulykke kommer Tesla til å sitte på en detaljert log og være i stand til å bedømme hvorvidt bilen ville unngått ulykken eller ei.

 

Så, om rundt et års tid kan Tesla legge frem tall. Det kan se slik ut: av de 125 dødsulykkene som bilene våre var med i ville en autonom bil kunne forhindret 120. Da blir det en rimelig smal sak å skape lovverk som tillater bilene å kjøre selv.

 

Det Elon Musk er flinkest til er nettopp dette - å legge langsiktige planer for hvordan en kan endre verdens oppfatning av de forskjellige teknologiene de lager. Akkurat som planen med Roadsteren og Model S var å heve anseelsen til elektriske biler i sin alminnelighet skal de nå forsøke å endre vår (og lovmakerenes) oppfatning av selvkjørende biler.

[tommyb]

Det kan være at man i første omgang ender opp med en hybrid-løsning der bilen tar grep når den må. Det er ikke langt unna det som er "bransjestandard" i dag, type antiskrenssystemer, lane assist, etc. Selv om disse systemene i varierende grad kan slås av. 

[ovstebo]

Et annet eksempel er de som har svært dyre P-plasser på jobben - kan man da sette bilen til å returnere hjem og parkere der for så å kjøre tilbake til jobben ved arbeidsdagens slutt. God idé ?  Miljøvennlig ?

 

Og det er der delingsøkonomien kommer inn i bildet: Bilen din tar med seg en person når den kjører i retning hjemmet ditt for å lade, og slik generer inntekt for deg. Da er det miljøvennlig.

[Rune_says]

 

Et annet eksempel er de som har svært dyre P-plasser på jobben - kan man da sette bilen til å returnere hjem og parkere der for så å kjøre tilbake til jobben ved arbeidsdagens slutt. God idé ?  Miljøvennlig ?

Og det er der delingsøkonomien kommer inn i bildet: Bilen din tar med seg en person når den kjører i retning hjemmet ditt for å lade, og slik generer inntekt for deg. Da er det miljøvennlig.

 

Nå har jo rushtiden visse karakteristika som svært få reisende i motsatt retning.   Men mer realistisk blir kanskje å la bilen kjøre til en rimeligere innfartsparkering bare et lite stykke unna jobben.

 

Poenget mitt er at man ikke ser alle måtene virkelig selvkjørende biler kan brukes på - og at noen bruksmønstre faktisk kan bli ganske lite miljøvennlige.  Ellers så slår det meg at Tesla-eierne nok ikke er de som er mest opptatt av "delingsøkonomien" med biler i prisklassen 1 MNOK ...

[IM0T45WW]

Hvordan vil autonome biler forholde seg til etikk og liv-og-dør-vurderinger? Hva gjør bilen om den kan velge mellom redde folkene i en og bare en av bilene?

 

Og hvor flink blir programmer til å tenke utenfor boksen i kritiske situasjoner?

 

Hvordan kan man forsikre seg om at autonome biler ikke kan brukes til selvmordsvåpen?

E.g. Jeg har en manuell bil. En person jeg ikke liker har en autonom bil. Jeg stalker han og ved en passende anledning gjør jeg en uforutsigbar manøver som resulterer i at den autonome bilen tar en unvikingsmanøver og den sikre død for folkene inni.

[ovstebo]

Poenget mitt er at man ikke ser alle måtene virkelig selvkjørende biler kan brukes på - og at noen bruksmønstre faktisk kan bli ganske lite miljøvennlige.  Ellers så slår det meg at Tesla-eierne nok ikke er de som er mest opptatt av "delingsøkonomien" med biler i prisklassen 1 MNOK ...

 

Det er forsåvidt sant, men så vil det være andre igjen, som vil velge å bla opp noen ekstra lapper for bilen nettopp fordi den kan tjene penger på si. Blir litt som fiolk som kjøper bolig med utleiedel med hensikt om å leie ut. Er forøvrig meget enig i din påstand om at vi sannsynligvis ikke klarer å forutse alle måter selvkjørende biler vil bli brukt på.

 

Det at rushen gjerne går én retning er selvsagt et poeng, men om f.eks. 90 % av de reisende i retning mot rushen slipper å bruke egen bil, ville selvsagt det gjort noe med samfunnet forøvrig. Rimeligere innfartsparkeringer vil jo, som du nevner være et godt alternativ. Jeg tror også at det på sikt, når man har mange selvkjørende biler, vil være aktuelt å kreve at tomme biler benytter seg av minst belastede rute, kjører omveier, tar pauser og slipper øvrig trafikk forbi på en elegant måte, slik at de belaster vegnettet minimalt på en slik tilbaketur.

[tommyb]

Hvordan vil autonome biler forholde seg til etikk og liv-og-dør-vurderinger? Hva gjør bilen om den kan velge mellom redde folkene i en og bare en av bilene?

 

Og hvor flink blir programmer til å tenke utenfor boksen i kritiske situasjoner?

 

Hvordan kan man forsikre seg om at autonome biler ikke kan brukes til selvmordsvåpen?

E.g. Jeg har en manuell bil. En person jeg ikke liker har en autonom bil. Jeg stalker han og ved en passende anledning gjør jeg en uforutsigbar manøver som resulterer i at den autonome bilen tar en unvikingsmanøver og den sikre død for folkene inni.

 

 

De tradisjonelle bilfirmaene har ikke helt fått hodet rundt problemstillinga enda. I oktober ble det rapportert at Mercedes prioriterte eieren, deretter måtte de gå ut og si at det gjorde de ikke likevel; 

 

 

 

Car and Driver reported on October 7 that Mercedes-Benz has already made a decision that its self-driving cars will always prioritize their own occupants over other road users. The magazine quoted comments made by Christoph von Hugo, Mercedes’ manager of driver assistance systems and active safety.

Mercedes on Tuesday issued a statement that the quoted comments were incorrect. The automaker said it was wrong — and possibly illegal — for one of its self-driving cars to actively choose to harm someone in the hope it could avoid hurting one of its own occupants.

Instead, Mercedes says its self-driving cars will aim to maintain the highest possibility safety for all road users. To do so, the automaker says its self-driving technology is being developed to avoid dangerous situations by ensuring the car acts in a low-risk manner.

That won’t completely solve the dilemma of what to do when an accident is unavoidable. In response, Mercedes says it’s important that a broad, public discussion needs to take place to determine an outcome that is ethically and socially acceptable.

 

Men det er vel mange som mener at slike ting må bestemmes gjennom felles lovverk, og ikke av den enkelte bilprodusent. Ellers kan du få mange ekle konsekvenser: 

 

- De som kjøper Audi er egoistiske sjåfører så Audi-biler beskytter sjåføren først, mens de som kjører Skoda forsøker skade færrest mulig også dersom det øker skaden på sjåføren, eller;

- De som kjøper den billigste modellen får ikke "family protection pack", så luksusmodellene prioriterer familien din, mens de billige prioriterer å redde de andres liv, eller; 

- Forsikringsselskapene betaler for å få være med på å bestemme prioriteringsalgoritmen, det kan være billigere å mose ned en Skoda enn å bulke en Mercedesm, eller; 

- Forsikringsselskapene betaler for å få være med på å bestemme prioriteringsalgoritmen, og det er billigere å kjøre på et barn som ikke er forsikret enn et som er det...

 

Så i det øyeblikk AI blir skrevet slik at den faktisk gjenkjenner slike situasjoner, så tror jeg det tvinger seg fram felles regelverk. Men man kan gjøre mange grep for å unngå at et aktivt valg trenger tas. For eksempel så kan bilen fullstendig ignorere alt annet enn fare-elementer dersom den uansett er i en kritisk situasjon. Da bremser bilen for å holde seg på veien, å kræsje "minst mulig" mot motgående fartøy og fotgjengere, bare rangere objekter etter fare-grad. 

[X672]

Hvordan vil autonome biler forholde seg til etikk og liv-og-dør-vurderinger? Hva gjør bilen om den kan velge mellom redde folkene i en og bare en av bilene?

 

Og hvor flink blir programmer til å tenke utenfor boksen i kritiske situasjoner?

 

Hvordan kan man forsikre seg om at autonome biler ikke kan brukes til selvmordsvåpen?

E.g. Jeg har en manuell bil. En person jeg ikke liker har en autonom bil. Jeg stalker han og ved en passende anledning gjør jeg en uforutsigbar manøver som resulterer i at den autonome bilen tar en unvikingsmanøver og den sikre død for folkene inni.

 

Er dette ett reelt problem? Kan ikkje huske å ha sett ein einaste nyhet der nokon måtte velge mellom to onder... prøvde å søke litt på Google men fant kun diskusjon om dilemmaet og ikkje faktiske tilfeller.

 

Hva vil i tilfelle være ein passende anledning til å gjera ein utforutsigbar manøver der den autonome bilen tar ein unvikningsmanøver og personene inni dør og ingen kan finne ut at det var din handlig som gjorde det?

[toro6]

 

Eventuelt la Tesla holde på litt for å se hvor mange som dauer, eller hvordan folk reagerer?

Hva skjer hvis en av disse bilene dreper en skoleklasse? Det kan være kroken på døra til det merket.

 

Jeg skal gi deg en annen langt mindre usansynlig hypotese:

Hva om en Tesla kjører ned en skoleklasse, uten at føreren hadde aktivert autopiloten og senere analyse påviser at bilens autonome autopilot ikke hadde kjørt ned skoleklassen, men latt alle parter forstatt trygt på reisen sin?

Hvis du først skal drøfte scenarioer, hvorfor ikke drøfte de mest sansynlige først?

Etterhvert som slike unødvendige ulykker avsløres vil debatten hvorvidt autonom kjøring skal bli et krav i bilene som har støtte for autonom kjøring. 

Akkurat slik ble påbud om bruk av sikkerhetsbelter innført i Norge og verden forøvdrig, og det er det som vil skje med autonom kjøring også. Snart har du bare lov til å kjøre selvkjøring på småveier og privat eiendom.

Men hvis en menneskelig sjåfør dreper en skoleklasse vil det bare være en ny tragedie, forårsaket av typisk uoppmerksomhet. Bilen kan ikke lastes,og produsenten unngår problemer.

Du gjør ikke annet enn å argumentere for autonome biler.. Dette må du gjøre MYE og til langt mindre fremtidsrettede folk enn meg. Og til de etterlatte etter et "robot ulykke".. Er du klar for det?

 

"sorry for at bilen min drepte ungen din, men dette var virkelig usannsynlig, altså."

 

Mange her undervurderer verdens befolkning og deres aversjon og skepsis til denne teknologien. Eller.. De fleste i verden er ikke klar over at dette er greie engang..

 

Kanskje det er jeg som undervurderer folk, vi får se.

[Salvesen.]

 

 

Men hvis en menneskelig sjåfør dreper en skoleklasse vil det bare være en ny tragedie, forårsaket av typisk uoppmerksomhet. Bilen kan ikke lastes,og produsenten unngår problemer.

Du gjør ikke annet enn å argumentere for autonome biler.. Dette må du gjøre MYE og til langt mindre fremtidsrettede folk enn meg. Og til de etterlatte etter et "robot ulykke".. Er du klar for det?

 

"sorry for at bilen min drepte ungen din, men dette var virkelig usannsynlig, altså."

 

Mange her undervurderer verdens befolkning og deres aversjon og skepsis til denne teknologien. Eller.. De fleste i verden er ikke klar over at dette er greie engang..

 

Kanskje det er jeg som undervurderer folk, vi får se.

 

 

Men poenget er jo at det var ikke bilen som forårsaket ulykken, det var den uoppmerksomme sjåføren. Litt sånn som når bremsene slutter å virke og en dropper å dra i håndbrekket, eller når cruise kontrollen ikke vill slå seg av og en gidder ikke å bremse osv. Det er sjåføren som er piloten, det er han som får skylden. 

[toro6]

Er regelverket slik nå? Er lovene i USA (føler det er det landet som gjelder) ferdig utviklet ig klart til helt autonome kjøretøyer?

 

Uansett, dette er ikke cruise control, heller ikke et annet hjelpesystem, men noe helt nytt. Noe nytt og skummelt.

 

Var det forresten ikke Elon som ville at du skulle kunne bruke bilen til som taxi? Bilen skysser noen fra a til b mens du sitter hjemme. Er det du som da får skylden hvis ulykken inntreffer?

[Salvesen.]

Er regelverket slik nå? Er lovene i USA (føler det er det landet som gjelder) ferdig utviklet ig klart til helt autonome kjøretøyer?

 

Uansett, dette er ikke cruise control, heller ikke et annet hjelpesystem, men noe helt nytt. Noe nytt og skummelt.

 

Var det forresten ikke Elon som ville at du skulle kunne bruke bilen til som taxi? Bilen skysser noen fra a til b mens du sitter hjemme. Er det du som da får skylden hvis ulykken inntreffer?

 

Nei regelverk er ikke klart for full autonome biler, det er under utvikling. Men enn så lenge er sjåføren ansvarlig. Det må en også signere før en får tatt det i bruk(iallefall tesla, usikker på de andre). Det er fortsatt ett hjelpe system enn så lenge en har ratt og pedaler. 

 

Det du snakker om nå er ikke klart, derfor er heller ikke situasjonen relevant. Om bilen kjører selv og har ratt og pedaler så er det såklart den som overvåker bilen som har skylden. Når dette forsvinner så må en definere hvordan ting skal løses og hvem som skal være "skyldig". 

[toro6]

Det var opprinnelig de neste to-tre årene jeg snakket om i første post.

 

La meg prøve på denne måten, ikke frekt ment: Vet du hva dårlig PR er?

 

Menneske kjører på barn: Whatever, fortell meg noe nytt.

 

Autonom bil kjører på barn: Katastrofalt dårlig pr.

 

Tesla tar sjansen. Mercedes ser an litt.

[Salvesen.]

Det var opprinnelig de neste to-tre årene jeg snakket om i første post.

 

La meg prøve på denne måten, ikke frekt ment: Vet du hva dårlig PR er?

 

Menneske kjører på barn: Whatever, fortell meg noe nytt.

 

Autonom bil kjører på barn: Katastrofalt dårlig pr.

 

Tesla tar sjansen. Mercedes ser an litt.

 

Altså mercedes har jo sitt system de, bare dårligere. Altså større kjangs for å kjøre ned barn og større kjangs for dårlig PR.