Er det riktig å torturere eller drepe et virtuelt levende vesen?

[aadnk]

La oss si vi utvikler datateknologi i fremtiden med tilstrekkelig regnekraft og sofistikert i programvare til å simulere menneskelig bevissthet og intelligens, gjerne i en simulert virkelighet lik The Matrix, slik at sluttresultatet ikke er til å skjelne vår virkelighet, og er til forveksling lik en nyere versjon av The Sims. Gitt så at bevissthet faktisk lar seg gjenskape i et slik miljø og ikke bare er en etterlikning, hvilket det òg burde da vi ikke er noe annet enn biologiske maskiner bestående av molekyler og atomer, er vi da moralsk forpliktet til å behandle disse organismer som vi behandler organismer, det være seg mennesker eller dyr, i virkeligheten?

 

På overflaten er jo dette kun snakk om biter og matematiske utregninger, på langt nær komparativt med reelt materie, men på en annen side kan vi jo heller ikke være sikre på vår egen virkelighets natur. Kanskje er denne datasimuleringen bare enda et nivå i en lang rekke med simuleringer? Og, enhver skade en påfører disse virtuelle organismer er jo enn så virkelig for dem som en tilsvarende skade påført oss.

 

Skulle dette bli en realitet, må en nok forvente en enorm interesse blant folk som vil enten leke Gud eller gjenskape situasjoner de bare kan drømme om i virkeligheten. Hvis virkelighet og simulering er moralsk ekvivalent, må vi da, som et ansvarlig samfunn, restriktere tilgangen til og bruken av slike simuleringer, så langt det lar seg gjøre?

 

Hva mener dere? Selv tror jeg det i bunn og grunn ikke er noen moralsk forskjell på virtuell og reell virkelighet, men at det blir fånyttes å forsøke å stanse teknologiens fremskritt, samt håndheve overgrep i virtuelle universer, og at vi rett og slett må lære å akseptere dette.

[Traadstarter]

Så lenge det har bevissthet er tortur galt.

[aadnk]

Så lenge det har bevissthet er tortur galt.

Selv i en virtuell virkelighet? Selv når skapningene kan være totalt annerledes fra dem vi kjenner? En kan jo bare spekulere hvordan en darwinistisk prosess (evolusjon, naturlig utvelgelse) ville tatt veien om den var overlatt til seg i en slik virkelighet. Resultatet ville nok blitt totalt fremmed, og bevissthet ville dermed muligens være vanskelig å fastslå.

 

Har du i så fall en formening om hvordan en bør håndheve dette, og hvilke straffer en, om funnet skyldig, bør bli illagt?

 

Forresten, hva om en stanser simuleringen, eller enda bedre; sletter all informasjon tilknyttet dens eksistens? På sett og vis er jo det som et massemord av alle bevisste skapninger i et slikt univers, men det kan jo bli umulig å finne bevis på at noe slikt har funnet sted da alt er fjernet.

 

Jo mer jeg tenker over dette, desto mer innser jeg at vår moral risikerer å bryte totalt sammen om vår teknologiske utvikling fortsetter.

Endret 19. februar 2008 av aadnk

[Traadstarter]

Hva er en virtuell virkelighet, da? Hvordan skiller det seg fra vår virkelighet?

[aadnk]

Hva er en virtuell virkelighet, da? Hvordan skiller det seg fra vår virkelighet?

At den kun eksisterer som digital informasjon i et fysisk system hvis blir modifisert av en Turning-maskin/datamaskin - altså, at den er på en måte over den konkrete virkelighet.

 

Hvis man eksempelvis simulerer en annen type hardware på sin maskin, la oss si en 64-bit prosessor på en 32-bit-prosessor, utstyrt med tilhørende software (operativsystem og programvare), ser man en klar distinksjon mellom den simulerte programvare og programvare som kjører på samme nivå som simuleringsprogrammet. Først og fremst går sistnevnte langt raskere, men også ulikheter i hvilke ressurser og funksjonaliteter den har tilgang til. Blant annet kan man helt sikkert ikke kjøre 64-bit-programvaren på 32-bit-prosessoren, og, mens 32-bit-prosessoren består av atomer, består 64-bit-prosessoren av programrutiner i bits og bytes.

[Traadstarter]

Hm, litt vanskelig å si. Tror vi må finne ut mer om hvordan bevisstheten egentlig fungerer først. Jeg stemmer nei til tortur foreløpig, i føre-var-åndens navn.

[aadnk]

Da er det faktum at noe er virtuelt irrelevant?

 

Det burde falle enn relativt lett å sette likhetstegn mellom bevissthet i datamaskiner og bevissthet i hjerner, om hjerner er datamaskiner og bevissthet det program (eller konsekvensen av programmet) den kjører, da det underliggende mediet er irrelevant for programmer, sålenge de er Turing-complete. Men, om hjernen er et produkt av en simulering - dvs. at de fysiske lover og prosesser er fullstendig digitale og simulerte, at det hele ligger "et nivå over", på samme måte som de programmene i simulerte maskiner jeg nevnte ovenfor.

 

Jeg er ikke helt sikker om det faktisk er nødvendig å vite hva bevissthet er, før en kan svare på dette. Vi har ikke bevis på at noe overnaturlig foregår, og da må det nødvendigvis kunne la seg duplisere i et virtuelt miljø.

 

Det store problemet for meg er vel at det intuitivt føles merkelig å kunne bli straffet for drap i noe som essensielt er matematiske utregninger.

[Traadstarter]

Vil ikke kalle det fasitsvaret akkurat. Jeg har ikke satt meg inn i problemstillingen. Vet ikke engang om det kan la seg gjøre i praksis.

[Petrvs Romanvs]

Tja, til hvilken ende? I dag så utfører vi eksperimenter på dyr som er forkastelig, tenker da primært på kosmetikk. Om man kan simulere laverestående liv så blir det stygt, tror ikke et kyberdyrs følelser vil bety noe. Husker et dansk forsøk der man lot noen i hvite frakker overtale andre til å gi et medmenneske strøm, man kan gråte eller le... i den virtuelle verden blir det nok mye verre.

 

Ettersom cyberspace er litt fjernt kan folk tillate seg mer, bare se på forumet hvor det til tider kan hagle med ukvemsord og faktisk trusler om vold.

 

Hva som er riktig er en sak, hva man faktisk gjør blir noe annet

[WaterMarked]

Egentlig litt spennende evne dette.

Men jeg vet ikke hvordan jeg skal forholde meg til det siden jeg ikke har tenkt noe spesielt på det, og vi har et stykke igjen før vi greier å

lage en såpass avansert virtuell verden.

 

Men med 5min filosofering så finner jeg ikke en grunn som gjør at et virtuelt liv av en slik dimensjon er mindre verdt på en slik måte at en har rett til å drepe det eller torturere det.

Men hvordan kan en virtuell person føle frykt eller smerte?

Er det noe som er mulig å programmere, er det mulig å programmere følelser? Spesielt uten å koble til en hjerne ''slik som i matrix.

 

Nei, jeg vet ikke. For trøtt til å fundere over det...

 

EDIT: Vet ikke helt hvordan jeg skal ordlegge meg for å si det jeg mener, men jeg prøver allikevel...

Viss man greier en gang å lage en såpass avansert virtuell verden så vil jo det være virkelig for den ''data genererte'' personen som befinner seg i den på samme måte som vi forholder oss til denne virkeligheten. Selv om verden jeg ser ut av vinduet er data generert så vil kanskje noen si at dette er en ''falsk'' virkelighet. Men selv om det kanskje er det på noen måter så må jeg forholde meg til den på en slik måte at det blir min virkelighet.

Dårlig forklart, men satser på at noen forstår hva jeg mener...

Endret 19. februar 2008 av The_Free_Man

[freke]

Vi dreper jo allerede virtuelle levende vesen. Datavirus. Et virus faller inn under definisjonen for liv. Link . Likevel gir vi ikke denne livsformen store sjanser når vi møter den. Karantener og sumeriske henrettelser hvor hver og en er dommer og bøddel. Tvilsomt om vi kommer til å skape virtuellt liv som er moralsk vanskeligere å drepe enn et annet virtuellt liv.

[MrL]

Eneste er at hvis vi dreper et virtuelt levende vesen, kan man altids lage en nytt og helt likt et, og kan sikkert programmere det til å tenke likt som den forrige. Men med oss mennesker kan vi kanskje klones, men hvordan et menneske tenker kan vi aldri ha kontroll over, derfor vil vi aldri få den samme personen tilbake, selvom den ser helt lik ut.

Endret 19. februar 2008 av MrLG

[Potetfar]

Var litt vanskelig å skjønne posten din, men blir det ikke litt som å tortrere noen i en drøm? Selv om personen du "torturerer" virker helt troverdig og livaktig (ihvertfall for deg som drømmer) er det ingen som faktisk føler smerten du påfører han/henne. Uansett hvor troverdig man kan lage et program vil det ikke kunne tenke som et menneske, og enda mindre føle smerte (tror jeg, men hva vet vel jeg i det store og det hele?).

 

Hvis jeg, i GTA, løper etter en person og skyter han i foten vil han kanskje hyle og skrike av smerte, men alt som går rundt inne i pc-en er 0 og 1, og det som gjør at jeg "oppfatter" det som at personen har vondt er fordi jeg er "opplært" som menneske til å gjenkjenne slike skrik som smerte.

 

Bevissthet som så kan vel ikke skapes virtuelt, ihvertfall ikke som jeg kan se. Det kan skapes "kunstig", men ekte bevissthet er nok bare noe ordentlige levende organismer som har.

[noob11]

Hmm, en virituell identitet kan vel lages slik at den ikke kjenner smerte, og dermed forsvinner det aspektet ved en evt 'torturering'.

 

En kunne jo også lage en skapning som likte torturering.

 

Videre er det jo også et skille mellom liv og bevisthet. Slik vi definerer liv idag vil jo muligens ikke virtuelt 'liv' være liv.

 

Så er det jo litt i hvordan vi lager virtuell bevisthet da. Vil vi virkelig lage en bevisthet som er i stand til å ville noe motsatt av det vi vil? Å lage en bevisthet som muligens er smartere og raskere enn oss og som kan motarbeide oss er vel ikke det lureste menneskeheten kan gjøre.

[aadnk]

Var litt vanskelig å skjønne posten din, men blir det ikke litt som å tortrere noen i en drøm? Selv om personen du "torturerer" virker helt troverdig og livaktig (ihvertfall for deg som drømmer) er det ingen som faktisk føler smerten du påfører han/henne.

Dette stemmer forsåvidt for spill og programmer nåtildags, da vi verken har utviklet hardware eller software som er i stand til å simulere densalgs, men slik vil det ikke nødvendigvis være i fremtiden. Mitt hypotetiske scenario forutsatte eksplisitt at dette var mulig, og hva dette impliserer moralsk/etisk - med andre ord, må en behandle virtuell intelligens på samme måte som vi behandler intelligente vesener i det virkelige liv (menneskelig eller ei)?

 

Uansett hvor troverdig man kan lage et program vil det ikke kunne tenke som et menneske, og enda mindre føle smerte (tror jeg, men hva vet vel jeg i det store og det hele?).

Hvordan vet du det? Dersom det blir umulig å skille mellom kunstig intelligens og menneskelig intelligens, er det vel også feil å hardnakket påstå at den ene ikke kan være ekte? Personlig ser jeg på en slik kunstig intelligens og den intelligens produsert av evolusjonen som om det samme programmet ble kjørt på to delvis forskjellige datamaskiner. Programmet er jo det samme uansett.

 

Bevissthet som så kan vel ikke skapes virtuelt, ihvertfall ikke som jeg kan se. Det kan skapes "kunstig", men ekte bevissthet er nok bare noe ordentlige levende organismer som har.

Levende organismer består av molekyler og atomer. Gitt tilstrekkelige ressurser, kan vi simulere disse atomenes virke fullstendig. Dermed burde vi, uten å måtte forstå hva bevissthet er, simulere bevissthet i en datamaskin. Indikerer ikke dette at vi også kan simulere bevissthet direkte?

[aadnk]

Vi dreper jo allerede virtuelle levende vesen. Datavirus. Et virus faller inn under definisjonen for liv.

De lærde strides over definisjonen av liv, enda de fleste vet godt hva det er, så det er nokså vanskelig å si om virus kvalifiserer. Det minste vi vet er at det i hvert fall ikke er bevisst, men, om en skal gi all liv en rett til å leve, må vi nok unnlate å beskytte oss mot dem.

[freke]

De lærde strides over definisjonen av liv, enda de fleste vet godt hva det er, så det er nokså vanskelig å si om virus kvalifiserer. Det minste vi vet er at det i hvert fall ikke er bevisst, men, om en skal gi all liv en rett til å leve, må vi nok unnlate å beskytte oss mot dem.

 

Jeg gikk på en smell i Trivial Pursiut på det spørsmålet hvertfall Fasit der var at mennesket alt hadde skapt virtuellt liv; dataviruset. Kostet meg vel fort en kake og

[aadnk]

Fasit der var at mennesket alt hadde skapt virtuellt liv; dataviruset.

Hvis det er sådd tvil om hvorvidt virus er levende, vil nå datavirus være en endra mindre sannsynlig - de er jo ikke engang foranderlig (tenk mutasjoner), og heller ikke et produkt av en naturlig evolusjon. Reproduksjon er heller ikke en tilstrekkelig kondisjon for liv, for i så fall måtte også flammer og andre kjemiske reaksjoner anses som en gyldig gren av livets tre.

 

Etter min mening er det først og fremst fruktene av genetisk programmering som konstituerer en sterk kandidat - ta bare en titt på disse virtuelle skapninger:

Endret 26. februar 2008 av aadnk

[kjetil02]

[datavirus] er jo ikke engang foranderlig (tenk mutasjoner), og heller ikke et produkt av en naturlig evolusjon.

 

Det finnes mange datavirus som muterer, og naturlig evolusjon er ikke avhengig av en skog for å fungere. Det er simpelthen snakk om en kamp om overlevelsen som fører til at den best tilpassede vinner, hvor mutasjoner er nøkkelen til forandring og tilpasning. Slik sett er datavirus absolutt realistiske kandidater.

[aadnk]

Det finnes mange datavirus som muterer, (...)

Det har du så menn rett i, og jeg medgir at jeg kjørte noe uti grøfta med begrepet mutasjon. Jeg siktet mer til forandring i adferd/funksjon, noe de to metoder for datavirusmutasjon, polymorfisk og metamorfisk kode, på ingen måte muliggjør. Hensikten er først og fremst å unngå deteksjon av antivirusskannere ved å henholdsvis konvertere mellom ulike representasjoner av koden (via kryptering, virtuelle maskiner) og fjerne eller legge til irrelevant kode. Dette blir litt som når flere gener kan kode for samme protein, og at den genetiske koden på et passivt gen kan forandres når det dominante genet er uttrykt (fenotype).

 

For øvrig har polymorfisk kode en stor svakhet da kodeprosedyren må være i klartekst for å kunne pakke ut resten av programmet, hvilket gjør det mulig for antivirusprogrammer å oppdage det uten simuleringsteknikker for å avdekke adferden knyttet til metamorfisk kode (skjønt, naturlig DNA har òg slike "hellige" områder).

 

og naturlig evolusjon er ikke avhengig av en skog for å fungere.

Neida, mediet er nokså uinteressant. For å oppnå naturlig seleksjon behøver man kun en (digital) kode for å representere duplikatoren, en unøyaktig kopieringsprosess (mutasjoner), konkurranse om ressurser og en god del tid. Man kan også manuelt velge (eller definere en fitness-funksjon) hvilke individer som skal overføre sine gener til den neste generasjon, og dermed på en mer effektiv og målrettet måte oppnå det samme resultat. Med denne teknikken (genetisk programmering) har man kunne lettere fininnstille parametre der prøving og feiling tidligere var regelen, og sågar patentert nye oppfinnelser!

 

Det er simpelthen snakk om en kamp om overlevelsen som fører til at den best tilpassede vinner, hvor mutasjoner er nøkkelen til forandring og tilpasning. Slik sett er datavirus absolutt realistiske kandidater.

Problemet er at det ikke er dataviruset selv som skaper disse tilpasningene. De programmeres manuelt av virusforfattere (som ofte bygger på andres arbeid), og viruset er således ikke i stand til å tilpasse seg miljøbetingelsene av seg selv. I følge den mest vide definisjonen jeg kunne finne på Wikipedia, er dette det minste man skal kunne forlange:

(...) For example, the capacity for descent with modification is often taken as the only essential property of life. (...)

Jeg regner med at modifikasjoner impliserer en faktisk endring i funksjon, og ikke bare en overfladisk endring i det genetiske sammensetningen.

 

Merk at dette ikke gjelder for en mer spesifikk definisjon av liv, der blant annet metabolisme, homeostase og vekst innbefatter. Da faller også naturlige virus ut av selskapet.

Endret 26. februar 2008 av aadnk