Hva skal autobilen gjøre hvis noen må dø?

[VinterUlv]

Jeg synes hele "dilemmaet" er noe kvasi-filosofisk mainnskit.

En maskin kan teste bremseanlegget tusenvis av ganger mot menneskets 1 gang, kjøre feildiagnostikk og analysere feilen, kanskje også feilrette og unngå at problemet oppstår i det hele tatt. I tillegg kan den gire ned til førstegir (motorbrems), eventuelt kanskje også i revers i visse tilfeller (elektrisk motor?), og utføre en hard sving for å stoppe.

 

Poenget med filosofien er at "hvis maskinen/bilen ikke kan stoppe, hvem skal bestemme", og i det tilfellet er det bedre at maskinen prøver enn et menneske, fordi reaksjonsevnen til mennesket er mye dårligere og kan lett føre til høyere antall skader og tap av liv.

 

"Ja men hva hvis den ofrer deg som fører i bilen da?". Hva så? Du/jeg har airbag og bilbelte. Det har ikke fotgjengerne.

Uansett vil maskinen regne ut flere tusen, om ikke millioner/milliarder ganger i sekundet for å finne beste utfall.

[Bottekott]

Bilen burde senke farten, så den slipper å havne i slike situasjoner.

[Joachim_F]

Overraskende mange som ikke helt skjønner poenget, eller at dette faktisk er temmelig viktig å finne ut av. Ja, noen av eksemplene er dumme, og ja, bilen vil sannsynligvis kunne bli smart nok til å velge ikke-dødelige løsninger hvis slike er tilgjengelige, men hvis de ikke er det? Det blir en interessant følelse å sette seg inn i en maskin programmert til å i praksis drepe meg om den oppdager at det eneste andre alternativet er "verre". Da ønsker jeg i det minste at man har vurdert ting nøye under programmeringen, slik at den ikke velger å drepe meg fremfor noens hund, for eksempel.

[magne.moe]

Du argumenterer ut fra ett sett med forutsetninger som ikke er reelle.

Biler kan ikke ta moralske valg. Det kan heller ikke de som lager algoritmene som skal styre bilen. En bilfører kan heller ikke ta moralske valg i en ulykkessituasjon, pga det har man ikke tid til. Å vurdere en situasjon, evaluere mulige utfall og så bestemme seg for handlinger er rett å slett ikke mulig.

 

Det beste man kan oppnå, teknisk sett, er at bilen reagerer på en måte som minimerer skade på fører og omgivelser. En eller annen form for kunstig intelligens kan nok brukes, men det er ikke mulig å programmere inn reaksjonsmønster for alle tenkelige situasjoner. Antall permutasjoner er rett og slett for stort.

 

Det er overaskende vanskelig for en maskin å skille ut et objekt fra bakgrunnen med optisk kamera, så det er store tekniske begrensninger for hva en selvkjørende bil kan registrere. Hvis det i tillegg skal kalkuleres forventet livslengde på fotgjengere eller passasjerer i møtende bil blir det mer eller mindre umulig.

 

Mennesker vil nok fremdeles bli skadet og dø i ulykker med selvkjørende biler, men når vi vet at mennesker selv er en utløsende faktor vil man reduserer det totale antallet drepte og skadde ved å fjerne den menneskelige faktoren.

 

Uansett hvor mange moralske dilemma man konstruerer så er det fremdeles bare oppkonstruerte hypotetiske problemstillinger, med liten overføringsverdi til det virkelige.

 

Den eneste måten å oppnå null drepte i trafikken er å fjerne trafikken. Inntil videre.

 

Nettop, dette overvurderer den kunstige inteligensen kraftig.

En slags kriseplan for hva AI skal gjøre dersom den forstår at den vil kræsje er på den andre siden smart.

 

1 Ungå å treffe folk eller harde ting som trær og lysstolper. Begge vil se relativt like ut for AI.

2 ungå og treffe biler i motgående kjørefelt.

Disse to vil stort sett avhenge av om du kjører ut til høyere eller venstre.

3 ungå å treffe andre biler dersom du kan ungå 1 og 2

[G]

Det var bare tre valg som dette dilemmaet ikke gir deg mulighet til. Man kan ikke bare tenke binært i en analog verden.

 

Nei, du glemte katapult-bilen.

Endret 18. januar 2017 av G

[G]

Overraskende mange som ikke helt skjønner poenget, eller at dette faktisk er temmelig viktig å finne ut av. Ja, noen av eksemplene er dumme, og ja, bilen vil sannsynligvis kunne bli smart nok til å velge ikke-dødelige løsninger hvis slike er tilgjengelige, men hvis de ikke er det? Det blir en interessant følelse å sette seg inn i en maskin programmert til å i praksis drepe meg om den oppdager at det eneste andre alternativet er "verre". Da ønsker jeg i det minste at man har vurdert ting nøye under programmeringen, slik at den ikke velger å drepe meg fremfor noens hund, for eksempel.

 

Gleder meg virkelig til den tid bilselgere må stå skolerett overfor potensielle bilkjøpere og utrede for alle spørsmål som de kommer med rundt dette temaet i sin kjøpsvurderingsperiode.

Endret 18. januar 2017 av G

[tommyb]

Morsomt. Endel motstridende oppfatninger her. 

 

Om scenarioene som er beskrevet: 

 

Artikkelen: 

Men det må jo nevnes at flere av sitasjonene er litt søkte. Som for eksempel når det nevnes at noen av personene er kriminelle, gravide, leger eller direktører. Det er neppe noe en autobil vil vite noe om – med mindre den er veldig kjapt ute på Facebook og LinkedIn.

 

 

 

XmasB, den 18 Jan 2017 - 09:41, sa:
Ble for dumt allerede i første "test" når man skal ta valget mellom skurker eller andre. Hvordan skal en bil liksom vite hvem som er skurker? Jeg klarer ikke se forskjell på en skurk og en vanlig person. I den virkelige verden ser ikke skurker ut som B-gjengen fra Andeby... Trykket gjennom et par andre scenario og de var like mangelfulle ved å mangle flere alternativer.

 

Det er ikke for dumt. "Skurk" er for å eksemplifisere. Når du sitter der, ser du langt mer detaljer enn eksemplet. Kanskje til og med at det er en skurk. Skurk er brukt fordi det er et ekstremtilfelle. Barn og pensjonister brukes fordi det er ekstremverdier. Direktør og leger fordi de hos noen sjåfører vil regnes som ekstra verdifulle for verden - om kanskje ikke i Norge, så definitivt i noen samfunn. Dette tydeliggjør at det *vil* finnes mer informasjon enn bilen har tilgang på, og for å vise kompleksiteten som må inn i de predefinerte reglene. 

 

En AI vil kunne skille mellom voksne og barn. Det er ikke søkt at en AI også vil kunne se forskjell på en direktør og en uteligger, men ikke mellom en direktør og en dresskledd uteligger. Derfor er det en moralsk avgjørelse som kan (/bør?) gjøres om hund, barn, pensjonisten, direktøren eller uteliggeren skal ha en pluss-faktor eller minus-faktor når bilen skal regne ut beste mulige utfall. Ett av de mulige valgene er at man ønsker ikke å bruke regnetid/øke kompleksiteten for å skille mellom barn og voksne. Kanskje til og med ikke engang for å skille mellom mennesker og dyr, selv om jeg tror det vil tvinge seg fram et slik skille fra medieomtale. Biler som svinger mot et barn for å unngå å treffe to hunder vil bli omtalt som skandalebiler, så noe skille mellom objekter kommer til å skje. 

 

Forøvrig kan man gå ut fra at det en AI ikke kan gjøre i dag, kan den gjøre om noen år. Etikken bør utredes forbi hva AIen kan gjøre nå, men må kanskje justeres over tid når etikken generelt endres. 

 

 

Men tar man utgangspunkt i bildet så har man jo flere valg: Legge bilen hardt til høyre inn i autovernet eller rett til venstre og få en mer direkte kollisjon i autovernet på andre siden av veien, eller kanskje rett inn i bilen ovenfor? Det var bare tre valg som dette dilemmaet ikke gir deg mulighet til. Man kan ikke bare tenke binært i en analog verden.

 

Hensikten her er ikke å framstille alle mulige scenarioer, men å [skape debatt rundt å] prioritere to mulige utfall mot hverandre. Hva er etisk mest riktig av de identifiserte/identifiserbare valgene? I hvilken grad skal man benytte seg av en slik prioritering dersom ingen andre av de tusenvis av kalkulerte mulighetene er bedre? Når man skal lage en vekting tenker man ikke binært, men hvis man skal skape forholdstall mellom to mulige utfall, kan man tenke binært. Mange andre utfallene vil også bli med i regnestykket senere, her ser man isolert på noen enkelte tilfeller for å diskutere/identifisere utfordringer i en slik vekting. 

 

 Skal et dyr vektes likt med et barn, med en barnevogn, med en voksen, med en dyrt antrukket voksen? Noen av disse virker åpenbare for oss, men det må bestemmes verdier som forteller en AI hva som er mest ille. 

 

Bilen bør forsøke å se etter andre muligheter, men bilen skal regne ut hvilken bane som har best sannsynlighet for lavest skade, og da må skaden gjøres om til måletall.

 

 

[se lenger opp, om bare qoutes kunne blitt flytta rundt enklere]

 

 

Kynisk sagt, så spiller det vel ingen rolle om bilen velger barnet eller den voksne som går ved siden av hvis den uansett må kjøre ned en av dem? Du velger ikke ut dette selv heller i en nødsituasjon. Etter å ha sett utallige ulykker, så har jeg lagt merke til at overraskende mange bare slipper rattet i det de skjønner det skal skje noe. Ola og Kari Nordmann tar mao ikke rasjonelle valg de heller i en nødsituasjon, fordi de ikke trener på det.

 

Ta et veldig gjenkjennelig eksempel fra kjøreskolen: hvis et dyr løper ut i veien, så skal du styre bak det fordi et dyr sjeldent rygger. De fleste styrer derimot i samme retning som dyret løper.

 

Se forrige avsnitt - men for korthets skyld: det spiller da en stor rolle! Bare fordi mennesker ikke klarer velge det perfekte, betyr det ikke at støtteverktøyene ikke skal velge det beste heller.

 

Et lite tupp i vommen på en voksen kan være fatalt for et lite barn. Om alt annet er likt, er sannsynligheten høyest for et godt utfall om man sikter på den voksne. Hvis det var jeg som satt igjen med dårlig samvittighet etter en ulykke, og alt annet var sammenlignbart, ville jeg heller valgt 80% risiko for å kjøre på en voksen med 50% risiko for benbrudd og 20% risiko for død, enn 50% risiko for å kjøre på et barn med 80% risiko for benbrudd og 50% risiko for død. Gitt at det finnes kalkuleringskraft nok til å skille mellom disse. Og det vil finnes før eller senere.

 

Og disse tallene vil være forskjellige fra sjåfør til sjåfør, fra land til land. Så da må man finne ut hvordan det skal vektes, og kanskje om det skal være forskjellig vekting fra land til land. I verste fall fra person til person - jo, kynisk sett kan det være at noen ønsker å maksimere egen overlevelse selv om det betyr å sikte på mennesker. Hvem skal bestemme, hva skal vektlegges, og hva skal loven tillate? 

 

Så da må vi ta disse vurderingene og lage målbare faktorer av dem. Det er det man har begynt på her. Noen av faktorene kan man velge å ikke ha noe vekt. Slik som antrekk :direktør eller væpna selvmordsbomber. Mulig å sannsynliggjøre for en AI men skal det bety noe?

 

 

Du argumenterer ut fra ett sett med forutsetninger som ikke er reelle.
Biler kan ikke ta moralske valg. Det kan heller ikke de som lager algoritmene som skal styre bilen. En bilfører kan heller ikke ta moralske valg i en ulykkessituasjon, pga det har man ikke tid til. Å vurdere en situasjon, evaluere mulige utfall og så bestemme seg for handlinger er rett å slett ikke mulig.

Det beste man kan oppnå, teknisk sett, er at bilen reagerer på en måte som minimerer skade på fører og omgivelser. En eller annen form for kunstig intelligens kan nok brukes, men det er ikke mulig å programmere inn reaksjonsmønster for alle tenkelige situasjoner. Antall permutasjoner er rett og slett for stort.

Det er overaskende vanskelig for en maskin å skille ut et objekt fra bakgrunnen med optisk kamera, så det er store tekniske begrensninger for hva en selvkjørende bil kan registrere. Hvis det i tillegg skal kalkuleres forventet livslengde på fotgjengere eller passasjerer i møtende bil blir det mer eller mindre umulig.

Mennesker vil nok fremdeles bli skadet og dø i ulykker med selvkjørende biler, men når vi vet at mennesker selv er en utløsende faktor vil man reduserer det totale antallet drepte og skadde ved å fjerne den menneskelige faktoren.

Uansett hvor mange moralske dilemma man konstruerer så er det fremdeles bare oppkonstruerte hypotetiske problemstillinger, med liten overføringsverdi til det virkelige.

Den eneste måten å oppnå null drepte i trafikken er å fjerne trafikken. Inntil videre.

 

Biler skal ikke ta moralske valg, men de som lager biler har alltid gjort moralske valg. 

 

En kjørekomputer kan også i mye større grad enn en sjåfør identifisere mulige utfall av en situasjon, og forsøke minimere problemet. Det gjør kjørekomputere allerede i dag, når man har for stor fart inn i svingen. Dette er også å minimere skade på fører og omgivelser. Diskusjonen her går på når man får nye identifiserbare faktorer i omgivelsene, hvordan disse skal vektes. Når AIen klarer å identifisere at et menneske er i veibanen og en mulighet er å skrense kontrollert ut på veirampen, er det en bedre løsning enn å pløye ned mennesket - men den påstanden kan man bare regne seg fram til dersom man verdisetter fotgjengeren, sjåføren, bilen, kjørersikkerhet og så videre, og så videre. 

 

Jeg har sett bevis på at det slett ikke er så vanskelig for AI å skille ut mennesker, ned på individnivå, men definitivt som konsepter, og AIen blir bare bedre. Debatten om verdisetting av faktorene skal ikke vente til man har AI som forteller oss at den kunne egentlig ha redda den der babyen, den må tas i forkant.

 

 

Som andre har sagt er jo testen åpenbart idiotisk med det med skurker og slikt.  [...]

 

Så ellers blir det vel bare enkel matte da. Dyr over mennesker. Redde deg selv istedenfor å dø selv, og kjøre der minst folk blir skadet. Om folk er gravide eller skurker kan du jo begynne å diskutere moral og etikk på på, men det er jo irrelevant så lenge en bil ikke kan vite det. Og ingen mennesker klarer å se det så raskt heller.

 

Se det jeg skriver ovenfor angående det å trekke inn skurker ol. Eksemplifisering, eksempler på hvordan stadig flere identifiserbare egenskaper kan brukes til å vekte hvor bra/dårlig et mulig utfall skal sies å være. Eller ignoreres, hvis man ikke ønsker å bruke dem/ønsker en enklere utregning. 

 

Men ja, dette blir til syvende og sist matte.

 

Derfor må man identifisere hvor mye hver identifiserbare faktor bør telle inn. Man går fra et system der kun risikoen for å miste veigrep er regnet inn, via et der man også ser på om man har for stor fart i forhold til avstanden til bilen foran, til et system som vil være i stand til å identifisere stadig flere egenskaper med objektene rundt. Kanskje bilen skal ta en litt mindre optimal retning i forhold til veigrep, mot at man gir fotgjengere en bedre sjanse til å overleve. Hvor mye mindre optimal retning for hvor mye bedre sjanse? Må gjøres om til tall. Hvor stort tall for egen sikkerhet, hvor stort tall for andres sikkerhet, etc. Skal man verdsette en person forskjellig fra en annen person? Hvilke faktorer teller, og hvilke bør ikke vektes? 

 

Gjør alt observerbart om til matte, så får du det komplette bildet, velg ut noen så får du de viktigste elementene, bestem hva som skal bety noe og gjør det om til faktorer i et regnestykke. 

 

 

 

En slags kriseplan for hva AI skal gjøre dersom den forstår at den vil kræsje er på den andre siden smart.

1 Ungå å treffe folk eller harde ting som trær og lysstolper. Begge vil se relativt like ut for AI.
2 ungå og treffe biler i motgående kjørefelt.
Disse to vil stort sett avhenge av om du kjører ut til høyere eller venstre.
3 ungå å treffe andre biler dersom du kan ungå 1 og 2

 

 

Et relativt vanlig utfall er at man løser 1 med å gå inn i tilfelle 2. Så dersom man klarer identifisere at man må velge mellom et sammentreff i motgående kjørefelt og folk i veien, begynner denne debatten. Det er ikke en enten-eller situasjon fordi man er i stand til å regne ut sannsynligheten for hver av disse, deretter må man prioritere om det er mer akseptabelt med å svinge over i motgående kjørefelt dersom risikoen for sammenstøt faller til 0% - 20% - 40%? 60%? når risikoen for fatal ulykke for person i veibanen er 100% - 80% - 60% - 40%? Og dette er bare to faktorer - alle andre faktorer kommer i tillegg. De man velger å ta hensyn til, i alle fall. 

 

[tommyb]

 

Gleder meg virkelig til den tid bilselgere må stå skolerett overfor potensielle bilkjøpere og utrede for alle spørsmål som de kommer med rundt dette temaet i sin kjøpsvurderingsperiode.

 

 

 

Du men de bilselgerne som står så skolerett og utreder for alle spørsmål som om det er mulig å ha USB-inngang samtidig som det er handsfree? Og som kan stå så skolerett mens de rettferdiggjør for hvorfor man må ha hydrauliske støtdempere for å få airbag bak? Jeg tenker at det bare blir en ting til de må svare det samme på, som på de fleste andre spørsmål. Men med muligheten til en interessant samtale, i alle fall. 

[G]

Spm. fra kjøper:

 

Kan jeg selv programmere den til å velge å kjøre over katter istedetfor hunder? 

Geiter framfor ender.. etc.

[Elefantmesteren]

Dersom alle utfall medfører at noen vil bli hardt skadd/dø, så kan man enkelt og greit programmere bilen til å fortsette rett frem (mens den bremser), uten noe sving-akrobatikk. Så slipper man hele tullet om å tilordne verdi til folk/dyr i de ulike kategorier

[G]

Foretrekker likevel at bilen krasjer med et buskas framfor en mur.

[tommyb]

Jeg tror det kommer politiske føringer, og at Audi-sjåfører kommer til å trimme algoritmen i sjul. 

[Deimos_Anomaly]

Tankeeksperiment om bikkjer og skurker er mer interessant for menneskers moralske valg enn for maskiners moralske valg.
Selvkjørende biler skal først og fremst sørge for å selv overholde trafikkreglene, noe mennesker ikke har vist seg å være spesielt dyktige til.

En selvkjørende bil kan ved hjelp av sensorinput og vilkårlige verdivalg gjort av de som har utviklet bilen, raskt beregne mulige utfall for deretter og velge det utfallet som er beregnet å gi minst mulig skade.
Noe mer kan ikke og bør ikke kreves av selve bilen. Det er fortsatt mennesker som må gjøre de moralske valgene.

Den største forskjellen er at med selvkjørende biler kan ingeniører og filosofer diskutere i måneder og år hva som er mest verdifullt og moralsk riktig. Bilen vil deretter kunne gjøre selve beregningene i løpet av millisekunder.
En menneskelig sjåfør vil til motsetning typisk kunne ha et sekund eller to på å gjøre det samme moralske valget.

At selvkjørende biler fører til at absolutt ingen ulykker skjer er en utopi. Målet er å minimere omfang og konsekvens av trafikkulykker.

[TKongen]

Spm. fra kjøper:

 

Kan jeg selv programmere den til å velge å kjøre over katter istedetfor hunder? 

Geiter framfor ender.. etc.

Foretrekker likevel at bilen krasjer med et buskas framfor en mur.

Med dagens teknologi som bilene er utstyrt med så kan de nok ikke skille på hverken hund og katt eller buskas og mur. Så da er det bare å håpe at bilen kjører i buskaset selv, eller ta styringen selv. Er nok lenge til selvkjørende biler ikke kan overstyres manuelt.

[Gjest Slettet+513]

Lavere fartsgrense i urbane strøk. Separat nødbremssystem og hjullås funksjon.. tadda.

Endret 18. januar 2017 av Slettet+513

[magne.moe]

 

 

En slags kriseplan for hva AI skal gjøre dersom den forstår at den vil kræsje er på den andre siden smart.

 

1 Ungå å treffe folk eller harde ting som trær og lysstolper. Begge vil se relativt like ut for AI.

2 ungå og treffe biler i motgående kjørefelt.

Disse to vil stort sett avhenge av om du kjører ut til høyere eller venstre.

3 ungå å treffe andre biler dersom du kan ungå 1 og 2

 

 

Et relativt vanlig utfall er at man løser 1 med å gå inn i tilfelle 2. Så dersom man klarer identifisere at man må velge mellom et sammentreff i motgående kjørefelt og folk i veien, begynner denne debatten. Det er ikke en enten-eller situasjon fordi man er i stand til å regne ut sannsynligheten for hver av disse, deretter må man prioritere om det er mer akseptabelt med å svinge over i motgående kjørefelt dersom risikoen for sammenstøt faller til 0% - 20% - 40%? 60%? når risikoen for fatal ulykke for person i veibanen er 100% - 80% - 60% - 40%? Og dette er bare to faktorer - alle andre faktorer kommer i tillegg. De man velger å ta hensyn til, i alle fall. 

Om du ikke klarer å stoppe på en glatt vei og vil treffe det foran har du tre muligheter

Ta bilen til venstre over i motsatt kjørefelt. Dette unngår alt om det ikke kommer biler i mot og bør være primær valget. kommer det biler i mot er front mot front en dårligere løsning en å fortsette rett frem og krasje der. Relativt uvesentlig om hva som er forut siden du ikke kan bremse mye om du svinger, si du ligger i 70, du klarer å bremse ned til 40 før du krasjer om du kjører rett frem, om du bytter fil klarer du kun å bremse halvparten og treffer den andre bilen i 55 km/t. 

 

Ta bilen til høyere av veien er det tredje valget, dette fungerer om du ikke treffer folk eller trær / lyktestolper eller ut over et stup. Du treffer ikke det foran og er mindre farlig for deg en å kjøre inn i en annen bil. Bilen vil ikke kjøre av veien om det ikke er for å unngå å treffe andre biler eller folk. 

Så venstre om det ikke er motgående trafikk, ellers høyere, om det ikke går fortsett rett frem. 

[asshole]

Bilen kan gjøre unnamanøver til høyre ellen venstre hvis det ikke er hindring (bil,sykkel,folk,dyr,fjellvegg etc. ), ellers må den bare kjøre rett frem. Enkelt og greit. Det virkelige problemet er å detektere hindringen (Tesla feilet på detektete en trailer...)

[knopflerbruce]

Bilen skal, i alle tilfeller, følge trafikkreglene - og de er utformet slik at det ikke skal skje ulykker dersom de blir fulgt. Om man så havner i en situasjon hvor å ofre seg selv (+ evt passasjerer) er et alternativ er det fordi andre har begått en feil, og moralen bør da være at det er disse som får ta støyten - ikke de som ikke har gjort annet galt. Dette selv om det er småbarn som "ikke vet bedre".

 

Om noen MÅ kjøres ned vil jeg tro datamaskinen i bilen er fullt ut kapabel til å beregne den banen og treffpunktet som minsker risikoen for dødsfall og/eller alvorlig skade. Det eneste dilemmaet jeg kan se her må være om bilen skal foretrekke X antall alvorlig skadde fremfor å ta livet av en enkeltperson. Her blir det vel noe statistikk som tilsier forventningsverdien av antall dødsfall i en ulykke, og bilen velger alternativet hvor dette er minst.

 

Utover det: en bil som ikke har lojalitet til den/de som sitter i den vil neppe bli brukt. Her kan man jo se for seg at grupper troller bilene ved å løpe ut i veien, slik at de kjører i autovernet, da den finner det bedre å skade/drepe 2 passasjerer enn de 8 som løper ut i veibanen.

 

Disse filosofiske spørsmålene er stort sett ganske tøvete. Bilen kan ikke på noe vis si med sikkerhet at person A eller B vil dø. Folk overlever å falle ned fra himmelen innimellom, så alle spørsmål som impliserer at bilen skal være i "Gudemodus" kan trygt ignoreres da det er en debatt for de dype kjellere på Blindern, uten relevans for denne situasjonen. Også verdt å notere at i samtlige spørsmål skal bilen ha bremset ned såpass at den vil stoppe i tide. En selvkjørende bil skal ikke dundre ivei mot et fotgjengerfeil, okke som. Og at bilen skal drive sortering av verdi hører ikke hjemme noe sted. Her burde den være kliss nøytral.

[LoveAmiga]

Overraskende mange som ikke helt skjønner poenget, eller at dette faktisk er temmelig viktig å finne ut av. Ja, noen av eksemplene er dumme, og ja, bilen vil sannsynligvis kunne bli smart nok til å velge ikke-dødelige løsninger hvis slike er tilgjengelige, men hvis de ikke er det? Det blir en interessant følelse å sette seg inn i en maskin programmert til å i praksis drepe meg om den oppdager at det eneste andre alternativet er "verre". Da ønsker jeg i det minste at man har vurdert ting nøye under programmeringen, slik at den ikke velger å drepe meg fremfor noens hund, for eksempel.

 

Kanskje skuffende for deg å høre, men du er ikke mer nytte enn en hund her på jorda.

[G]

<ekkel silemodus>

Bilen skal, i alle tilfeller, følge trafikkreglene - og de er utformet slik at det ikke skal skje ulykker dersom de blir fulgt.

Om noen MÅ kjøres ned vil jeg tro datamaskinen i bilen er fullt ut kapabel til å beregne den banen og treffpunktet som minsker risikoen for dødsfall og/eller alvorlig skade.

 

Her kan man jo se for seg at grupper troller bilene ved å løpe ut i veien, slik at de kjører i autovernet, da den finner det bedre å skade/drepe 2 passasjerer enn de 8 som løper ut i veibanen.
 

 

</ekkel silemodus>

 

Da har jeg prøvd å finne logiske feil i argumentasjonen din. Så dersom man følger trafikkreglene så skjer aldri noen ulykker! Feil nr. 1

 

Dersom bilen blindt følger trafikkreglene så er den jo bundet til å havne i flere ulykker vel, med unntak av hastighetsregulering som modereringsverktøy vel og merke, er dere ikke enig? Du trår i den fellen at det kun er bilen som skal tas hensyn til, og ikke også trafikkbildet. Trafikkbilde kan være kaotisk og i stadig forandring foran deg, på siden av deg og bak deg. Kanskje også over deg. Har sett måker, linerler, kråker mm. bli kvestet (fører omsider til døden) av påkjørsel også..

 

Også beskriver du plutselig at bilen ikke skal følge trafikkreglene, eller har jeg misforstått når du hevder at "det er bedre å skade/drepe 2 passasjerer enn de 8 som.." ? Nå må du bestemme deg, skal bilen følge trafikkreglene eller skal den også kunne unnamanøvrere ved å bryte trafikkreglene?

 

Også kan man vel tillegge at den bør slå på varselblinklys og blinkende fjernlys og tåkelys elns., om den først skal ta vågale manøvre, for det er jo en fordel at det løpske kjøretøyet blir lagt merke til.

Endret 19. januar 2017 av G