Vi trenger debatt om dødsstandarden i selvkjørende biler

[Redaksjonen.]

Vi trenger debatt om dødsstandarden i selvkjørende biler

[rosetta stoned]

Dette er ikke noe nytt, og debatten har rast lenge.

Hvorfor vi trenger den spesielt om selvkjørende biler, det er en begrensning av problemstillingen som er interessant i forhold til hvem som mener.

 

Men, hva er din dødsalgoritme da, Hr. Pedersen?

Om du visste at barnet hadde uhelbredelig hjernekreft, garantert død om 2 måneder? Ville du kjørt på de to voksne i stedet? Eller omvendt?

Tror jeg har sett en film eller to om dette.

 

Teknologien går mye raskere enn lovgivningen, dette har vi visst i mange tiår. Google, Facebook et al burde vært forbudt pga av manglende sikkerhet for lenge siden. Men de pumper såpass mye peng inn til politikere at det ikke blir noe aksjon.

 

Det må noen skikkelige ulykker til for at noe skal skje. Viking Sky gikk det heldigvis bra med til slutt. 100 meter til mot fjøra så tenker jeg at cruisenæringen hadde fått lovendringer som ville umuliggjort videre drift i Noreg, når 1000 britiske og amerikanske passasjerer fikk møte Satan. Tenk om dette skjer med at autonomt skip som Noreg er fremst i verden på?

 

Og, de som er mest imot lovendringer som kunne innføre en dødsalgoritme som du kaller det, er jo de som lager faenskapet, godt støttet av medier som TU. Fordi, tap av arbeidsplasser osv., fremskritt blablabla.

 

Etikk er et begrep som knapt er synlig i dagens bedrifter, og kommer neppe til å bli det heller, for hvem kan vel ha råd til noe sånt, om det ikke gjør seg utslag på bunnlinja. Dessverre.

[Arild Mosteid]

Ingen godtar programvare som tillater en ulykke. Dermed blir spørsmålet om hvem man skal skade hypotetisk og en debatt om dette lite relevant. Men det er veldig aktuelt nå, uten selvkjørende biler. Vi godtar at mennesker kjører, men ikke at de gjør feil. Noe alle vet at vi motorisk gjør. Men utviklingen av autonome biler avdekker hvor vanskelig det er å kjøre. Det avdekkes at vi kanskje burde tilpasse samfunnet til trafikken i stedet for omvendt. Ellers får man autonome biler som er ineffektive. Skal man ta hensyn til alt det en vanlig sjåfør skal og gjøre null feil, blir bilene nesten stående stille. Dette blir spesielt synlig i land som Norge der tilrettelegging for høy fart er bannlyst. Flere steder bygger man om veiene for å oppnå det motsatte. Derfor håper jeg at utvikling av autonomi vil skape debatt om dette. Vi vil ha null ulykker alle sammen. Men effektiv transport gir bedre livskvalitet og en velstand som har tillatt utvikling av legevitenskap som også sparer liv.

[terje-lk]

En av styrkene til selvkjørende kjøretøy er at de kan lære av hverandre - et utall hendelser og simuleringer kan danne grunnlag for deep learning. Bør jo være betryggende at kontrolleren av kjøretøyet har "opplevd" samme/lignende scenarier allerede og "vet" hva som er beste løsningen på problemet. Noe som (heldigvis) ikke kan sies om de fleste menneskelige sjåfører.

Hva gjelder moral - her tror jeg også vi må se oss slått av maskiner.

For selv om jeg vet alt om alle involvert i en hendelse så er det ikķe sikkert at jeg håndterer situasjonen godt nok når den først oppstår. Litt tilbake til første poenget mitt - jeg har aldri krasjet før og vet ikke hvordan jeg vil komme til å reagere når en ev. fatal situasjon oppstår.

Hva hjelper da mitt moralske kompass?

[Yamarin415]

Mener problemstillingen allerede er løst i form av "Lov om vegtrafikk (vegtrafikkloven)" og "Forskrift om kjørende og gående trafikk (trafikkregler)"

 

Lov om vegtrafikk (vegtrafikkloven):

"§ 6. Fartsregler.

Fører av kjøretøy skal avpasse farten etter sted, føre-, sikt- og trafikkforholdene slik at det ikke kan oppstå fare eller voldes ulempe for andre, og slik at annen trafikk blir minst mulig hindret eller forstyrret. Føreren skal alltid ha fullt herredømme over kjøretøyet."

 

Forskrift om kjørende og gående trafikk (trafikkregler):

 

Flere steder nevnes det at kjøretøyet skal kunne stanse. Spesielt:

"§ 13.Særlige bestemmelser om kjørefarten

1. Kjørende må kunne stanse på den vegstrekning som den kjørende har oversikt over, og foran enhver påregnelig hindring."

 

 

 

Ergo. Dukker det opp en situasjon hvor noe kan tenkes å komme til hindring eller man ikke lenger har oversikt tilsvarende og lengre enn bilens bremselendge SKAL man senke farten tilsvarende slik at man til enhver tid kan stanse = problem løst. At det da i noen tilfeller i norges langstrakte svingete land kan oppstå steder hvor trafikken flyter sakte kan godt tenkes. Da må man tilsvarende heve veistandarden, sikt, og begrense tilgang til veien for myke trafikkanter dersom man vil øke hastigheten. Mest sannsynlig vil et autonomt kjøretøy med radar etc. ha bedre sikt enn de fleste andre sjåfører som vil kunne resultere i at de vil kunne opprettholde en høyere hastighet enn et menneske og fortsatt være innenfor kravet i forskriften. Samtidig vil kjøretøet kunne kalkulere (ikke anta!) til enhver tid avstand til begrensning av sikt og tilsvarende optimal fart. Dette i tillegg til smarte veier og kjøretøy vil etterhvert eliminere faremomentene helt. Noe man ikke tilsvarende kan si om mange sjåfører i dag som blindt ligger på eller over fartsgrensen uavhengig av sikt og forhold.

 

Tilsvarende har trafikkreglene dekket forbikjøring og plassering i veibanen.

 

Det er kanskje ikke glamorøst og spennende. Men senking av fart og evne til å stanse er det som skal til. IKKE etablering av et komplekst system hvor en maskin må ta verdivurderinger den IKKE har forutsetninger for å kunne utføre.

[Nautica]

Hvem vil bli den første bilprodusenten som annonserer med "våres autonome biler prioriterer deg som sjåfør hvis det oppstår situasjoner".

 

Og hvem ville kjøpt en bil hvis ryktes at våres autonome-biler kjører utenfor et stup hvis situasjonen krever det.

Endret 29. april 2019 av Nautica

[Xantippe]

Å diskutere - og velge - hvem som skal bli skadet eller drept er en umulig diskusjon.

Logikken tilsier at potensielt antall mennesker som blir rammet er det naturlige svaret.

Det vil igjen medføre at en tre 90-åringer får leve mens to barn blir drept. Er valget da riktig.

 

I India var det en lastebilsjåfør som valget å svinge over i motsatt kjørebane for å unnmgå å kjøre på ei ku - ei hellig ku!, og kollidert med møtende buss. Over 70 personer omkom.

Her ville logikken tatt livet av kua med reultat lynsjing av lastebilsjåføren.

[4U0V1MKL]

NN trenes opp til å forutse og unngå alle ulykker

[The Avatar]

Menneskelege sjåførar rekk vell heller ikkje å gjere dei heilt store etiske vurderinga når dei fyrst mistar kontrollen? Det tilhører nok skjeldenheitene at sjåføren med har tid og kontroll nok til å med viten og vilje gjere ei vurdering på om det er betre å kjøyre på 1 barn eller 5 pensjonistar.

Eg ser ikkje heilt kvifor vi skal forvente at bilen skal gjere ein så mykje betre jobb enn oss på akkurat det punktet. Som Yamarin415 er inne på, så er den etiske problemstillinga som ein sjølvkjøyrande bil må ta stilling til:

-Kor mykje er det greit å strekke sikkerheitsmarginen sett opp mot hensynet til rask transport?

 

Det er dette spørsmålet som vi bilførar stiller oss heile tida, men fordi vi er dårlige til å gjere risikovurderingar så ender vi opp med å feilberekne slik at vi held for stor fart i forhold til kjøyreforholda.

Hadde alle bilførarar følgt trafikkreglane fullt ut, så hadde vi kun hatt ulykker ved mekanisk svikt. 

Mesteparten av traiffulykken i dag skyldes for høg fart (ofte typiske ungdomsulykker) og for dårlig oppmerksomheit i kryss og fotgjengarovergangar (typisk for eldre bilførarar).

[Civilix]

(...)

I India var det en lastebilsjåfør som valget å svinge over i motsatt kjørebane for å unnmgå å kjøre på ei ku - ei hellig ku!, og kollidert med møtende buss. Over 70 personer omkom.

Her ville logikken tatt livet av kua med reultat lynsjing av lastebilsjåføren.

 

Dette bringer jo inn en annen utfordring, man må ha en standard for hver kultur man skal selge til. Det er jo ikke slik at verdier er like over hele verden.

 

Jeg ser mange også sier at diskusjonen er unødvendig da bil bare må tilpasse farten, dette er dessverre en umulighet da ingen ville kjøpe en autonom bil som hele tiden kjørte sikkert, der ville gå for sakte. For å selge selvkjørende biler i trafikken trenger man en kalkulert risiko.

[olemars]

Akkurat den problemstillingen med hvem autonome biler skal velge å kjøre på syns jeg er mer konstruert enn reell. Hvis jeg skulle bli påkjørt ville det ha minimal betydning om det var en person bak rattet eller en algoritme (ville kanskje bli litt fornærmet om algoritmen valgte meg flere ganger), og egentlig ville jeg mye heller ønske at algoritmen velger hvem som skal kjøres på enn at sjåføren skal sitte med skyldfølelsen.

 

Jeg synes Amazon og behandlingen av lageransatte er en mye viktigere og alvorligere problemstilling. Dette ekstreme jaget etter maksimal produktivitet er temmelig dehumaniserende og bærer preg av at Amazon nok aller helst ønsker at disse ansatte egentlig skal være roboter.

[tom waits for alice]

Mitt svar fra en tidligere diskusjon om emnet:

 

Dette er strengt tatt ikke veldig vanskelig fra mitt etiske perspektiv. Du har ikke noen rett til å ta andre uskyldiges liv for å redde ditt eget. Så med mindre disse andre aktivt er trusselen mot ditt liv, slik at det dreier seg om selvforsvar, så skal sammenstøt med disse unngås.

 

Dette er ikke noe annerledes om du sitter i en bil, buss, fly eller tog som kjører for deg. Du får spenne sikkerhetsbeltet og håpe på det beste. Eller velge bort slike biler. Du velger nemlig om du vil kjøre med en slik bil (buss, ...) vel vitende om risikoen. Og nei, det blir neppe et valg du kan gjøre når du bestiller, at bilen skal prioritere sjåføren framfor andre.

 

Mannen som går på rødt lys får skylde seg selv hvis kollisjonen er uungåelig, akkurat som i dag. Bilen skal fortsatt prøve å unngå sammenstøtet, men ikke på bekostning av tredjepart. Den kan bremse eller gjøre en unnamanøver, om ikke uskyldige står i veien. Det samme gjelder en bil som kommer i feil felt. Ikke at selvkjørende biler skal komme i feil felt, så da er det vel en av den gode gammeldagse typen som fortsatt våger seg ut i trafikken.

 

Utover det objektive (rødt lys, feil felt, for høy fart, ...) er det selvsagt umulig for en bil å vite noe som helst om intensjonen til fotgjengeren/bilisten den møter, så det kan ikke være en faktor, like lite som alder eller kjønn, eller hvorvidt fotgjengeren kan tenkes å være en selvmordsbomber.

 

Den klassiske "barnehaven på tur langs veien" er uskyldig tredjepart. (Vi får gå ut fra at de gå på fortauet i sitt eget nabolag, og ikke midt ute på motorveien.) "Barnehaven på busstur" får derimot være prisgitt sin egen bussjåfør, eller selvkjørende ditto, som i dag.

 

Jeg tror ellers at hyppige ulykker vil legge en større demper på folks lyst til å kjøpe selvkjørende biler enn lav fart.

 

Geir

[Börje Forssell]

"...hvem algoritmene bestemmer skal rammes i en trafikkulykke..." skriver redaktør Pedersen. Men en algoritme bestemmer ikke noe som helst.

Definisjon: En algoritme er en begrenset mengde veldefinerte instrukser for en datamaskin som skal løse en oppgave ut fra gitte forutsetninger i løpet av et endelig antall trinn. Begrepet er brukt siden 1930-tallet. Selve ordet er en kombinasjon av et latinsk ord og et gresk ord som betyr tall. Det er altså et program som er skrevet av et menneske, og dette mennesket er det som bestemmer hva som skal skje.

[Gjest Slettet-Pqy3rC]

"...hvem algoritmene bestemmer skal rammes i en trafikkulykke..." skriver redaktør Pedersen. Men en algoritme bestemmer ikke noe som helst.

...

Det er altså et program som er skrevet av et menneske, og dette mennesket er det som bestemmer hva som skal skje.

Akkurat, hvilket er nettopp hva artikkelforfatter ønsker å belyse.

Hvordan sikrer vi at beslutningene som tas er rotfestet i en moral akseptert av et overveldende flertall?

Det er umulig, hva god moral er varierer fra individ til individ. Selv om kulturelle forhold kan påvirke moralen hos en gruppe vil neppe noen generell konsensus kunne finnes. Ihvertfall ikke på verdensbasis og neppe heller for det enkelte land.

Moralske regelverk vil neppe heller stå seg over tid, jeg har f.eks. oppdaget at heksebrenning ikke lenger er akseptert i store deler av verden, mens muslimhets virker å stadig bli mer moderne.

 

Jeg antar det hele vil falle ned på en økonomisk løsning. Folk & fe dør i ulykker, ansvarlige saksøkes (bilfabrikant eller bileier?) - erstattninger utbetales, lovverk justeres og ting går seg til over tid. Ulike geografiske/kulturelle områder vil sikkert operere med ulike regler.

[tom waits for alice]

Det er umulig, hva god moral er varierer fra individ til individ. Selv om kulturelle forhold kan påvirke moralen hos en gruppe vil neppe noen generell konsensus kunne finnes. 

 

Tja. Man kan jo tenke seg et flertallsdiktatur her, som på andre av samfunnets områder? Les: Politikerne vedtar reglene, slik de gjør med alt annet der konsensus ønskes men ikke finnes. Nå er vel ikke "reglene" jeg skisserte i innlegg #12 så veldig kontroversielle i noen land.

 

Ihvertfall ikke på verdensbasis og neppe heller for det enkelte land.

 

Må reglene være de samme i hele verden? Man kunne jo tenke seg at biler som kjørte i India tok hensyn til hellige kuer (vandrehistorie?), mens i Norge så gjorde de det ikke. Så når jeg kjører i Norge så følger bilen norske trafikkregler og "moralske" ditto, mens hvis jeg tar med meg bilen til Napoli så tilpasser den seg reglene der. Tilsvarende i andre land.

 

Og ja så får vi samme dillemma som med Facebook og Google og alle de som fristes til å levere skreddersydde tjenester til diktaturer. Vil Toyota selger biler til land hvor det er greit å kjøre i hjel folk? Finnes det slike land i det hele tatt?

 

I så fall: Hva er anderledes enn i dag? 

 

Moralske regelverk vil neppe heller stå seg over tid, jeg har f.eks. oppdaget at heksebrenning ikke lenger er akseptert i store deler av verden, mens muslimhets virker å stadig bli mer moderne.

 

Da får man oppdatere dem i takt med tiden. Ikke at det behøver å gjøre hverken hekser eller muslimer til fritt vilt.

 

Geir

Endret 30. april 2019 av tom waits for alice

[qualbeen]

Teknologi er helt uten moral. Diskusjonen om hvem algoritmene bestemmer skal rammes i en trafikkulykke, må vi ta i offentligheten.

 

Tja … jeg kan ikke huske at jeg måtte signere en samvittighetserklæring, eller at min moral på annet vis ble vurdert, da jeg tok lappen for 17 år siden. 

 

Vi fikk en tykk bok som forklarte hva skilt og markering betydde, samt hvordan alle de ulike trafikkreglene er. Ikke noe trykksverte ble ofret for å berette om etikk eller moral i trafikken.

 

Dersom jeg skulle være så uheldig å komme opp i en situasjon hvor jeg må velge mellom hvilke myke trafikanter jeg skal kjøre på, så vet jeg nok ikke hva jeg kommer til å velge. Sannsynligvis får jeg ikke særlig god tid til å gjøre noen grundig vurdering heller. Hadde vi blitt terpet og drillet i hvem man skal sikte på i en sånn situasjon, kunne jeg sannsynligvis kjørt ned «rett» vedkommende – nærmest uten lenger betenkelighetstid. 

 

Så – hvorfor er ikke dette en del av trafikal opplæring? 

 

I dag er det helt tilfeldig hvem sjåfør velger å ramme/skåne. Så vil en rettsprosess i ettertid sannsynligvis vurdere og evnt. straffe vedkommende ved et uforsvarlig dårlig valg.

• Må vi endre på dette?
• Fungerer ikke dagens system godt nok?
• Hvorfor skal AI-styrte biler måtte ha én universell regel, når vi mennesker slipper?
• Og sånn apropos – hvor mange nordmenn har mistet livet i slike dilemma-scenarium?

 

PS: Dersom selvkjørende biler en dag skulle bli klare til bruk, og vi velger å ikke ta i bruk teknologien pga uavklaringer rundt dette – hvor mange ekstra liv går tapt, fordi hodeløse sjåfører sovner bak rattet, får illebefinnende, eller rett og slett bare er uoppmerksomme? Er det greit? (Her forventer jeg såklart at selvkjørende biler allerede kjører tryggere enn folk flest)

[Gjest Slettet-Pqy3rC]

Tja. Man kan jo tenke seg et flertallsdiktatur her, som på andre av samfunnets områder? Les: Politikerne vedtar reglene, slik de gjør med alt annet der konsensus ønskes men ikke finnes.

Jepp. En snekrer et lovverk som tegner "yttergrensene" av hva som tolereres, deretter blir det for retten å avgjøre alle tvilstilfeller. Hva som forfattes blir opp til den enkelte lovgivende enhet, da gjerne nasjoner vil jeg anta. Akkurat som i dag altså.

 

Så hvilke (om noen) moralske valg en bil (eller sjåfør) evt. foretar blir således uvesentlig, og opp til den enkelte person/fabrikant.

 

Det eneste samfunnet bør ha klartlagt mht. selvgående maskineri er hva eller hvem som er den ansvarlige part for utstyrets oppførsel. Dette siden det ikke finnes noen fører lenger. Rollen som ansvarlig må overlates til passasjerer, eier eller fabrikant. Rettsprosesser er gjerne greiere å gjennomføre når en har parter på begge sider.

 

Tja … jeg kan ikke huske at jeg måtte signere en samvittighetserklæring, eller at min moral på annet vis ble vurdert, da jeg tok lappen for 17 år siden. 

...

I dag er det helt tilfeldig hvem sjåfør velger å ramme/skåne. Så vil en rettsprosess i ettertid sannsynligvis vurdere og evnt. straffe vedkommende ved et uforsvarlig dårlig valg.

Akkurat.

 

Det å bedrive noen generell diskusjoner, og evt. vedta regler, for moralske valg i ulike situasjoner virker som et meningsløst foretagende.

Endret 2. mai 2019 av Slettet-Pqy3rC

[hekomo]

Jeg synes ikke det nødvendigvis er slik at man må ta moralske valg.

 

Sitat: "Produsentene av selvkjørende biler møter samme dilemma: Hvis situasjonen på veien har to utfall, som kan skade eller ta livet av ulike personer, hvilken løsning skal bilen velge?"

 

Når det gjelder selvkjørende biler så vil jeg si at forutsigbarhet er det som i utgangspunktet bør gå foran andre ting. Moral Machine-prosjektet er basert på at kjøretøyene skal kunne foreta moralske valg fremfor å være forutsigbare.

 

Jeg vil si at man løser dette enklere ved å basere seg på forutsigbarhet og det å være konsekvent.

 

For å ta et scenario fra Moral Machine: Et barn krysser veien på rødt lys. Den eneste måten å unngå å kjøre ned barnet på er å svinge unna og krasje i en barriere som dreper de(n) som sitter i bilen.

 

Her ville det å plutselig svinge unna vært et uforutsigbart avvik. Da er det bedre at bilen holder kursen og kjører ned barnet. Ikke på fordi det er moralsk riktig, men fordi det å plutselig svinge unna for å treffe barrieren ville for eksempel kunne skapt andre farlige situasjoner.

 

Det betyr ikke at det alltid vil være galt å gjøre plutselige unnamanøvre. Dersom man kunne reddet barnet ved å svinge unna, og ingen andre trengte å komme til skade, så kunne man hatt det som et unntak fra hovedregelen. Da vil man kunne si at risikoen ved avviket oppveies ved at man mest sannsynlig vil kunne redde liv.

 

Men utgangspunktet bør være forutsigbarhet og å unngå kaos (og dermed kunne gjøre ting verre).

Endret 11. mai 2019 av hekomo