Drapsroboter

[Polymorf]

Det er ikke pilotdrevne droner, men helautonome våpensystemer, såkalte drapsroboter, som kan dominere fremtidens slagmark.

Drapsroboter skal oppsøke, identifisere og ta avgjørelsen om å angripe mål, helt uten menneskelig innblanding. Slike våpen er ikke på markedet, men utviklingen er i full gang og har kommet høyt opp i den internasjonale debatten.

 

http://www.nrk.no/verden/vil-at-fn-forbyr-_drapsroboter_-1.12302506

 

Hvorfor er ingen av argumentene (listen i den artikkelen i alle fall) mot å utvikle slik teknologi at den kanskje begynner å gå løs på menneskeheten i sin helhet? Altså slik man kan se i filmer som Terminator.

 

Er det idiotisk å frykte slikt? Spørsmålet går vel på tekologi generelt sett, igrunn. Er det smart å utvikle mer og mer intelligent teknologi?

[Ragnar115]

Det er ikke pilotdrevne droner, men helautonome våpensystemer, såkalte drapsroboter, som kan dominere fremtidens slagmark.

 

Drapsroboter skal oppsøke, identifisere og ta avgjørelsen om å angripe mål, helt uten menneskelig innblanding. Slike våpen er ikke på markedet, men utviklingen er i full gang og har kommet høyt opp i den internasjonale debatten.

 

http://www.nrk.no/verden/vil-at-fn-forbyr-_drapsroboter_-1.12302506

 

Hvorfor er ingen av argumentene (listen i den artikkelen i alle fall) mot å utvikle slik teknologi at den kanskje begynner å gå løs på menneskeheten i sin helhet? Altså slik man kan se i filmer som Terminator.

 

Er det idiotisk å frykte slikt? Spørsmålet går vel på tekologi generelt sett, igrunn. Er det smart å utvikle mer og mer intelligent teknologi?

 De filmene som ble laget om slike scenarioer tenke vel at det kom til å skje på eit tidspunkt, spessielt om vi satt å utviklet mer og mer intelligent teknologi. 

 

Eg mener man bør stoppe eit sted, og helst før det er for seint. Disse drapsrobotene, kan sikkert tas over av hackere eller slikt siden de kommer til å bli såpass teknisk. Trur vi skal holde oss til ting som er mer eller mindre 100% menneskestyrt.

[Polymorf]

Eg mener man bør stoppe eit sted, og helst før det er for seint. Disse drapsrobotene, kan sikkert tas over av hackere eller slikt siden de kommer til å bli såpass teknisk. Trur vi skal holde oss til ting som er mer eller mindre 100% menneskestyrt.

 

Ja, at de kan "stjeles" elektronisk kan sikkert godt skje. Ser jo hva Sør-Korea gjorde med et kjernekraftverk, de koblet den av nettet...

[Ragnar115]

 

Eg mener man bør stoppe eit sted, og helst før det er for seint. Disse drapsrobotene, kan sikkert tas over av hackere eller slikt siden de kommer til å bli såpass teknisk. Trur vi skal holde oss til ting som er mer eller mindre 100% menneskestyrt.

 

Ja, at de kan "stjeles" elektronisk kan sikkert godt skje. Ser jo hva Sør-Korea gjorde med et kjernekraftverk, de koblet den av nettet...

 

Synes det er litt skummelt å gi roboter mer og mer intelligens.

Er vel Cyber warfare som blir vanlig å bruke i seinere tid, spessielt når alt blir elektronisk og alt koblet til samme system så kan jo man etter hvert kontrollere alt via pc (og da "hacke" systemene til land). Synes det er feilfokus på hva vi "forsker" på. Hvor ressursene til enkelte blir brukt.

 

Men hva tenker du?

 

[Polymorf]

 

 

Eg mener man bør stoppe eit sted, og helst før det er for seint. Disse drapsrobotene, kan sikkert tas over av hackere eller slikt siden de kommer til å bli såpass teknisk. Trur vi skal holde oss til ting som er mer eller mindre 100% menneskestyrt.

 

Ja, at de kan "stjeles" elektronisk kan sikkert godt skje. Ser jo hva Sør-Korea gjorde med et kjernekraftverk, de koblet den av nettet...

 

Synes det er litt skummelt å gi roboter mer og mer intelligens.

Er vel Cyber warfare som blir vanlig å bruke i seinere tid, spessielt når alt blir elektronisk og alt koblet til samme system så kan jo man etter hvert kontrollere alt via pc (og da "hacke" systemene til land). Synes det er feilfokus på hva vi "forsker" på. Hvor ressursene til enkelte blir brukt.

 

Men hva tenker du?

 

Nei, jeg vet ikke. Det er jo mange fordeler også, med "drapsroboter", og kunstig intelligens i det hele tatt. Jeg aner ikke om det er farlig, eller om det bare er urealistisk fiksjon at det er farlig.

 

Sannsynligvis vil vel det at alt er koblet sammen "elektronisk" etc. føre til et mindre fritt internett...?

[Shruggie]

Disse robotene er fremdels omtrent like smarte som støvsugere. Problemet er ikke at de begynner å tenke selv, men at de opereres av folk som ikke nødvendigvis har den samme etiske og moralske grunnstammen som vanlige norske soldater har.

[Polymorf]

Disse robotene er fremdels omtrent like smarte som støvsugere. Problemet er ikke at de begynner å tenke selv, men at de opereres av folk som ikke nødvendigvis har den samme etiske og moralske grunnstammen som vanlige norske soldater har.

 

Ja det er jo det åpenbare problemet. Et av dem. Jeg tenker på et annet aspekt ved det. Men det dreier seg vel egentlig om kunstig intelligens i det hele tatt.

 

(Det største problemet jeg ser med "drapsroboter" er egentlig det samme problemet som er vel bruk av droner. Det blir for lett for en makt å gå til krig. Det er ingen likkister. Det er et stort problem, det skal ikke være lett å krige.)

[Shruggie]

Nei, det dreier seg ikke om kunstig intelligens! Det dreier seg om at BY FAR den enkleste måten å bruke et slikt system på er å utruste egne soldater med en sender som sier "jeg er venlig" og be robotene om å drepe alle som ikke har en slik sender. 

 

Hvor smart er det?

[Polymorf]

Nei, det dreier seg ikke om kunstig intelligens! Det dreier seg om at BY FAR den enkleste måten å bruke et slikt system på er å utruste egne soldater med en sender som sier "jeg er venlig" og be robotene om å drepe alle som ikke har en slik sender. 

 

Hvor smart er det?

 

Jeg sier ikke at drapsrobotene nødvendigvis trenger å bli så "intelligente", og jeg vet godt hvordan de kan fungere. Det jeg snakker om er kunstig intelligens og om den er en trussel mot menneskeheten. Kan drapsroboter bli så intelligente at de kan gå til angrep på sine skapere?

 

Altså ikke at de trenger å bli særlig intelligente, men hvis de blir det, er de da en trussel? Det spørsmålet henger jo sammen med spørsmålet om kunstig intelligens er en trussel. Håper dette var bedre forklart.

Endret 12. april 2015 av Polymorf

[Shruggie]

Ja, men vi snakker ikke om det samme problemet. Du snakker om science fiction, og jeg snakker om noe som antageligvis allerede finnes i en lab et sted.

[Polymorf]

Tydeligvis, men tråden dreier seg altså om hva som kan skje på veldig lang tid, når teknologien blir mye mer intelligent enn den er i dag. Nå sier jeg "kan skje" - det er jo et spørsmål her. Det høres ut som fantasi at maskiner skulle utrydde menneskeheten, men det er tross alt vitenskapelige miljøer som jobber med å undersøke dette.

[Han Far]

Nei, det dreier seg ikke om kunstig intelligens! Det dreier seg om at BY FAR den enkleste måten å bruke et slikt system på er å utruste egne soldater med en sender som sier "jeg er venlig" og be robotene om å drepe alle som ikke har en slik sender. 

 

Hvor smart er det?

Hvis den skal være i stand til å gjenkjenne mål krever det elementer av kunstig intelligens. Hvis den selv skal være i stand til å fastslå om dette er sivile mål eller fiendtlige styrker (ved f.eks å gjenkjenne våpen) krever det desto mer avansert kunstig intelligens. Autonome roboter krever selvfølgelig relativt avansert maskinlæring og AI.

[Shruggie]

 

 

Nei, det dreier seg ikke om kunstig intelligens! Det dreier seg om at BY FAR den enkleste måten å bruke et slikt system på er å utruste egne soldater med en sender som sier "jeg er venlig" og be robotene om å drepe alle som ikke har en slik sender.

 

Hvor smart er det?

Hvis den skal være i stand til å gjenkjenne mål krever det elementer av kunstig intelligens. Hvis den selv skal være i stand til å fastslå om dette er sivile mål eller fiendtlige styrker (ved f.eks å gjenkjenne våpen) krever det desto mer avansert kunstig intelligens. Autonome roboter krever selvfølgelig relativt avansert maskinlæring og AI.

For det første snakker du om narrow Ai, ikke det TS snakker om. For det andre er slik 'ai' så dårlig foreløpig at ingen kan stole skikkelig på det. Såvidt vi i den sivile sektoren vet, i hvert fall.

 

Når det er sagt tar du ikke feil.

[Polymorf]

Jeg snakker om kunstig intelligens. Vi har allerede teknologi som kan lære, i en viss grad. Denne kan utvikles videre. Spørsmålet er om dette er en trussel. Grunnen til at jeg trekker inn "drapsroboter" er vel mest for å sette ting på spissen. Jeg sier ikke at hvis det om la oss si 10 år slippes "drapsroboter" ut, at disse vil utrydde menneskeheten.

[Shruggie]

Jeg snakker om kunstig intelligens. Vi har allerede teknologi som kan lære, i en viss grad. Denne kan utvikles videre. Spørsmålet er om dette er en trussel. Grunnen til at jeg trekker inn "drapsroboter" er vel mest for å sette ting på spissen. Jeg sier ikke at hvis det om la oss si 10 år slippes "drapsroboter" ut, at disse vil utrydde menneskeheten.

Og jeg prøver å fortelle deg at du bekymrer deg om feil ting. Det som kalles AI i filmer og bøker er ikke en gang teoretisk mulig i dag, langt mindre praktisk mulig. Når kvantedatamaskiner blir mer tilgjengelige kan dette forandre seg, men jeg tror ikke en gang det er nok.

[Flin]

De robotene bekymrer meg, men av andre grunner. Når det kommer til AI så er de nok ikke smarte nok til å ta en skynet, disse robotene er programmert på en bestemt måte og tar avgjørelser basert på algoritmer og predeterminerte regler. De vil altså ikke utvikle seg og er helt avhengig av programvare.

 

Jeg er for å være helt ærlig mer bekymre/imponert av en liten mark.

http://www.iflscience.com/technology/worms-mind-robot-body

 

 

The key point is that there was no programming or learning involved to create the behaviors, (... ) The connectome of the worm was mapped and implemented as a software system and the behaviors emerge.

 

Det der er helt sykt.

[Polymorf]

Hvis det ikke er teoretisk mulig, er det lite å bekymre seg over ja. Jeg sa ikke at jeg "bekymret" meg over det, jeg starter en tråd for å diskutere det i forumet for teknologi og vitenskap. Men da har jeg jo fått vite at det ikke er teoretisk mulig...

 

Jeg er for å være helt ærlig mer bekymre/imponert av en liten mark.

http://www.iflscience.com/technology/worms-mind-robot-body

 

The key point is that there was no programming or learning involved to create the behaviors, (... ) The connectome of the worm was mapped and implemented as a software system and the behaviors emerge.

 

Det der er helt sykt.

 

Tror det blir et relativt heftig/stort/intrikat system ved å kartlegge et menneske... eller et ekorn for den del.

[Shruggie]

I dag er det ikke teoretisk mulig. Men da tar jeg utgangspunkt i dagens hardware og dagens kunnskap om datamaskiner og programmering.

[Flin]

Hvis det ikke er teoretisk mulig, er det lite å bekymre seg over ja. Jeg sa ikke at jeg "bekymret" meg over det, jeg starter en tråd for å diskutere det i forumet for teknologi og vitenskap. Men da har jeg jo fått vite at det ikke er teoretisk mulig...

 

Jeg er for å være helt ærlig mer bekymre/imponert av en liten mark.

http://www.iflscience.com/technology/worms-mind-robot-body

 

The key point is that there was no programming or learning involved to create the behaviors, (... ) The connectome of the worm was mapped and implemented as a software system and the behaviors emerge.

 

Det der er helt sykt.

 

Tror det blir et relativt heftig/stort/intrikat system ved å kartlegge et menneske... eller et ekorn for den del.

 

 

Joda, men det er prinsippene som er viktige her. Det at man faktisk kan gjenskape noe sånt uten å programmere inn noen form for intelligens er imponerende og sier noe om hvilke muligheter som ligger der.

 

Ja det er vanskelig å kartlegge og gjenskape kompliserte systemer, men det er mye som er vanskelig her i verden. Det virker kanskje umulig i dag, men ting som er dagligdags i dag var umulig for noen få tiår siden. Helt utenkelig for hundre år siden.

[Polymorf]

Joda, men det er prinsippene som er viktige her. Det at man faktisk kan gjenskape noe sånt uten å programmere inn noen form for intelligens er imponerende og sier noe om hvilke muligheter som ligger der.

 

Ja det er vanskelig å kartlegge og gjenskape kompliserte systemer, men det er mye som er vanskelig her i verden. Det virker kanskje umulig i dag, men ting som er dagligdags i dag var umulig for noen få tiår siden. Helt utenkelig for hundre år siden.

Ja, det er jeg helt med på.

 

Hvis man får samme type "kartlegging" av et menneske og kombinerer det med en datamaskins regnekraft og presisjon, blir vi vel utkonkurrert...

 

Eller kanskje vi har et mer effektivt "interface" på datamaskiner innen den tid. Integrert med tanker, ellerno.