Elon Musk: – Kunstig intelligens vil føre til tredje verdenskrig

[AfterGlow]

Og han tror at datamaskinene selv kan starte den.

Elon Musk: – Kunstig intelligens vil føre til tredje verdenskrig

[Gjest Slettet-Z9Cy2AAy]

Forhåpentligvis er kunstig intelligens også med på leken om WW4 og WW5.

[-Night-]

Forhåpentligvis er kunstig intelligens også med på leken om WW4 og WW5.

[djgudleif]

Kunstig intelligens er ikke farlig. Bare å trekke ut strømkabelen.

[Gjest Slettet+5132]

Kunstig intelligens er ikke farlig. Bare å trekke ut strømkabelen.

 

Dersom den er begrenset til en bestemt lokasjon ja, men det er ikke nødvendigvis sånn.

[Kikert]

"selv om Putin understreket at Russland ikke har noe intensjon om å monopolisere feltet"

 

Det gir vel liten mening siden "alle andre" også jobber med AI. Hvordan ville han eventuellt klart å få monopol på AI?

 

Angående WW3 så vil jeg si at det er mer eller mindre som et terningkast. Hvis vi ser på mennesker, intelligensen og hvordan vi tar beslutninger så vil jeg si at det baserer seg veldig på hvordan AI'en utvikler seg. Mennesker kan i stor grad anses som en trussel og dermed vil en AI prøve å nøytralisere oss og gå sin egen vei eller så kan en AI bestemme seg for å hjelpe til. Kan vel sammenlikne det med diverse fengsler, her i Norge så satser vi stort på rehabilitering og slike ting mens i mange andre land så satser de på straff og å isolere de kriminelle fra samfunnet ellers.

 

Så kan det selvfølgelig også hende at det blir noe midt imellom, men vi mennesker har en tendens til å gå en av veiene og en AI skal vel sammenliknes med oss, til en viss grad hvertfall.

 

Uansett hvor ting fører så er det spennende å følge med. Jeg håper på at vi får en revolusjon av et slag før jeg dør

[Jan Olsen]

Kunstig intelligens er ikke farlig. Bare å trekke ut strømkabelen.

 

Om den bruker Internett, må alle deler av Internett trekke ut ledningen. Og vår erfaring med Nord-korea, er vel at minst ETT land vil ikke trekke den ut

[Jan Olsen]

Om AI utvikler seg på samme måte som mennesker, kan det lett utrydde oss slik vi lett har gjort med de som er underlegne oss, enten det er dyr eller kulturer med dårligere våpen.

 

Historien har vist at dette ikke er så gunstig for de med lavere intelligens...

[Kajac]

Tror beskymringen er noe overdrevet. Foreløpig (og så langt inn i fremtiden jeg klarer å se) er AI kun algoritmer. Det er ikke intelligens, men matematikk. Tanken på at AI skal bli bevisst og begynne å gjøre ting selv, er egentlig umulig med dagens datateknologi (og all annen datateknologi vi kjenner til). Joda, det er mulig for datamaskiner å "lære", men de lærer ikke selv. En datamaskin finner ikke ut at "i dag har jeg lyst å overta verden". En datamaskin har ikke personlighet eller nysgjerrighet. Datamaskiner lærer ved å utføre samme oppgave mange ganger med små forskjeller, for så å måle hvilke endringer som gir best resultat. Men resultatet er fremdeles definert av mennesker, og så lenge datamaskinen ikke er bevisst, vil den heller ikke gjøre noe uten at den får input.

 

Det er først når datamaskiner får bevissthet at vi trenger å beskymre oss for dem. Og det skjer ikke med det første. Det er nok mennesker som evt. vil starte WW3.

[Sir-Allistair]

^Jeg er litt "beskymret" for skrivekunnskapen her

[TG-]

Litt ironisk, siden mangel på menneskelig intelligens førte til de to første..?

[J_Gagarin]

Blir mer og mer bekymret for Musk. Ser ut som det er i ferd med å rakne totalt. Han skal bosette Mars. Nå skal datamaskinene ut i krig. Hva blir det neste? Musk i reimer på galehus?

[Karamell]

Tror beskymringen er noe overdrevet. Foreløpig (og så langt inn i fremtiden jeg klarer å se) er AI kun algoritmer. Det er ikke intelligens, men matematikk. Tanken på at AI skal bli bevisst og begynne å gjøre ting selv, er egentlig umulig med dagens datateknologi (og all annen datateknologi vi kjenner til). Joda, det er mulig for datamaskiner å "lære", men de lærer ikke selv. En datamaskin finner ikke ut at "i dag har jeg lyst å overta verden". En datamaskin har ikke personlighet eller nysgjerrighet. Datamaskiner lærer ved å utføre samme oppgave mange ganger med små forskjeller, for så å måle hvilke endringer som gir best resultat. Men resultatet er fremdeles definert av mennesker, og så lenge datamaskinen ikke er bevisst, vil den heller ikke gjøre noe uten at den får input.

 

Det er først når datamaskiner får bevissthet at vi trenger å beskymre oss for dem. Og det skjer ikke med det første. Det er nok mennesker som evt. vil starte WW3.

Jeg vet ikke om man trenger bevisste datamaskiner av typen man ser i filmer. Det er kanskje nok med en drone eller ti med datavirus ? Eller en feiltolkning av radarsignaler (host) Det har jo skjedd før. Mange av disse systemene er automatiserte. Tenk på aksje roboter og automatiserte våpensystemer. Se på disse selvkjørende bilene. De krasjer jo ?

 

*edit:    ...og han som IKKE trykket på atomknappen sist det var en datafeil, i 1983, fikk ikke mye skryt nei. Han ble flyttet vekk fra den posten. Selv om han reddet verden.

Endret 5. september 2017 av Karamell

[Spooky69]

Einstein>Hawking>Musk Er det en overvurdering av business nissen Musk?

[Serpentbane]

Blir mer og mer bekymret for Musk. Ser ut som det er i ferd med å rakne totalt. Han skal bosette Mars. Nå skal datamaskinene ut i krig. Hva blir det neste? Musk i reimer på galehus?

 

Det skal legges til t Musk selv er aktiv innen feltet kunstig intelligens, og dette grunner nok ikke ut i for mye sci-fi film.

 

Det Musk i praksis er bekymret for er at man ikke har internasjonale reguleringer av utvikling av kunstig intelligens, og man vet ikke hvilke formål AI utvikles for.

 

Det er ikke nødvendigvis slik at man utvikler en intelligent programvare for en hjemmehøytaler knyttet til skyen som plutselig går ut på internett og starter 3. Verdenskrig.

 

Men for å kunne respondere raskt nok på fremtidige trusler kan vi se for oss at militæret får autonome systemer, både i form av droner i luften, på bakken og på havet, samt autonome intelligente analyse, varslings, styringa og kontrollsystemer som mater store mengder militært autonomt utstyr, bemannede fartøyer og personell med situasjonsdata som de da responderer etter.

 

Så har man intelligente programvarer som spionerer på andre land, infiltrerer andre lands nettverk og datasystemer. Planter data som er skadelig eller på andre måter ledende. Og i det hele tatt fører en vedvarende ikkefysisk krigføring over nett. Samtidig som den også skal røyke ut fiendtlig programvare av samme type.

 

Også har vi systemer som skal beskytte og fremme lands økonomiske interesser. Kjøp, salg, investeringer osv. Også disse kan fremstå som fiendtlige ovenfor hverandre på flere nivåer da de vil beskytte sitt lands egne interesser, og da vil kunne gjøre handlinger skadelige for hverandre.

 

Det er flere slike intelligente systemer som stadig smartere, raskere, og mer autonomt skal gjøre handlinger for å fremme våre egne interesser og beskytte oss mot andre land på alle disse nivåene.

 

Det betyr også at de forskjellige landene må investere i autonome intelligente systemer for å holde følge. Disse systemene vil så kobles sammen for å gi et system som kan respondere etter et helhetlig bilde. Plassering av militære resurser vil kanskje gjøres på bakgrunn av analyser om økonomisk og politisk uro som statistisk sett kan medføre en væpnet konflikt.

 

På ett eller annet sted kan noen velge å fjerne stadig flere menneskelige mellomledd. På ett eller annet sted kan det være en brist i logikken. På ett eller annet sted kan ett land velge å gjøre en del av sine systemer mer aggressive, og dette behøver ikke være de militære. På ett eller annet tidspunkt kan vi se for oss at disse systemene jobber mot hverandre i et tempo vi umulig kan følge med i, slik at vi umulig kan se hva som er i ferd med å skje.

 

På ett eller annet sted kan det gå galt, en kamp mellom systemer som styrer økonomi mellom to eller flere land kan forplante seg gjennom andre systemer i et enormt tempo. Til det plutselig smeller.

 

AI behøver ikke være selvbevist for at det skal gå galt.

 

Men det er klart, selvbevist programvare som er tilkoblet verdensomspennende nettverk kan få scenarioene ovenfor til å fremstå som trivielle.

[Zeph]

Kunstig intelligens er ikke farlig. Bare å trekke ut strømkabelen.

Stikk kjepper i skovlene på generatorene.

 

Det er mange påstandar og meiningar om AI og framtida. Felles er at alle driv med spekulasjonar og tipping.

Endret 5. september 2017 av Zeph

[Fjodorgrim]

"selv om Putin understreket at Russland ikke har noe intensjon om å monopolisere feltet"

 

Det gir vel liten mening siden "alle andre" også jobber med AI. Hvordan ville han eventuellt klart å få monopol på AI?

 

Angående WW3 så vil jeg si at det er mer eller mindre som et terningkast. Hvis vi ser på mennesker, intelligensen og hvordan vi tar beslutninger så vil jeg si at det baserer seg veldig på hvordan AI'en utvikler seg. Mennesker kan i stor grad anses som en trussel og dermed vil en AI prøve å nøytralisere oss og gå sin egen vei eller så kan en AI bestemme seg for å hjelpe til. Kan vel sammenlikne det med diverse fengsler, her i Norge så satser vi stort på rehabilitering og slike ting mens i mange andre land så satser de på straff og å isolere de kriminelle fra samfunnet ellers.

 

Så kan det selvfølgelig også hende at det blir noe midt imellom, men vi mennesker har en tendens til å gå en av veiene og en AI skal vel sammenliknes med oss, til en viss grad hvertfall.

 

Uansett hvor ting fører så er det spennende å følge med. Jeg håper på at vi får en revolusjon av et slag før jeg dør

 

http://biblehub.com/amos/5-18.htm

[Kajac]

 

Tror beskymringen er noe overdrevet. Foreløpig (og så langt inn i fremtiden jeg klarer å se) er AI kun algoritmer. Det er ikke intelligens, men matematikk. Tanken på at AI skal bli bevisst og begynne å gjøre ting selv, er egentlig umulig med dagens datateknologi (og all annen datateknologi vi kjenner til). Joda, det er mulig for datamaskiner å "lære", men de lærer ikke selv. En datamaskin finner ikke ut at "i dag har jeg lyst å overta verden". En datamaskin har ikke personlighet eller nysgjerrighet. Datamaskiner lærer ved å utføre samme oppgave mange ganger med små forskjeller, for så å måle hvilke endringer som gir best resultat. Men resultatet er fremdeles definert av mennesker, og så lenge datamaskinen ikke er bevisst, vil den heller ikke gjøre noe uten at den får input.

 

Det er først når datamaskiner får bevissthet at vi trenger å beskymre oss for dem. Og det skjer ikke med det første. Det er nok mennesker som evt. vil starte WW3.

Jeg vet ikke om man trenger bevisste datamaskiner av typen man ser i filmer. Det er kanskje nok med en drone eller ti med datavirus ? Eller en feiltolkning av radarsignaler (host) Det har jo skjedd før. Mange av disse systemene er automatiserte. Tenk på aksje roboter og automatiserte våpensystemer. Se på disse selvkjørende bilene. De krasjer jo ?

 

*edit:    ...og han som IKKE trykket på atomknappen sist det var en datafeil, i 1983, fikk ikke mye skryt nei. Han ble flyttet vekk fra den posten. Selv om han reddet verden.

 

 

Det har du helt rett i, men da er det ikke kunstig intelligens som er problemet. Men teknisk utstyr som har bugs eller har blitt hacket er nok en mye større trussel en AI.

[Karamell]

 

 

Tror beskymringen er noe overdrevet. Foreløpig (og så langt inn i fremtiden jeg klarer å se) er AI kun algoritmer. Det er ikke intelligens, men matematikk. Tanken på at AI skal bli bevisst og begynne å gjøre ting selv, er egentlig umulig med dagens datateknologi (og all annen datateknologi vi kjenner til). Joda, det er mulig for datamaskiner å "lære", men de lærer ikke selv. En datamaskin finner ikke ut at "i dag har jeg lyst å overta verden". En datamaskin har ikke personlighet eller nysgjerrighet. Datamaskiner lærer ved å utføre samme oppgave mange ganger med små forskjeller, for så å måle hvilke endringer som gir best resultat. Men resultatet er fremdeles definert av mennesker, og så lenge datamaskinen ikke er bevisst, vil den heller ikke gjøre noe uten at den får input.

 

Det er først når datamaskiner får bevissthet at vi trenger å beskymre oss for dem. Og det skjer ikke med det første. Det er nok mennesker som evt. vil starte WW3.

Jeg vet ikke om man trenger bevisste datamaskiner av typen man ser i filmer. Det er kanskje nok med en drone eller ti med datavirus ? Eller en feiltolkning av radarsignaler (host) Det har jo skjedd før. Mange av disse systemene er automatiserte. Tenk på aksje roboter og automatiserte våpensystemer. Se på disse selvkjørende bilene. De krasjer jo ?

 

*edit:    ...og han som IKKE trykket på atomknappen sist det var en datafeil, i 1983, fikk ikke mye skryt nei. Han ble flyttet vekk fra den posten. Selv om han reddet verden.

 

 

Det har du helt rett i, men da er det ikke kunstig intelligens som er problemet. Men teknisk utstyr som har bugs eller har blitt hacket er nok en mye større trussel en AI.

Visste du at definisjonen av hva som er artificial intelligence, hele tiden flytter seg ? Før ble optisk gjenkjenning sett på som noe Ai systemer burde kunne få til, men de klarte det ikke den gangen. Idag er det rutine. En robot støvsuger ville jo vært rene Terminator i 1990. Idag bør Ai systemer kunne f.eks gjenkjenne og tolke menneskelig tale.

Så jeg tenker da på systemer som i stor grad klarer seg selv, som intelligente. De må gjerne ha et snevert arbeidsområde, som å patruljere langs en grense og skille arabere fra jøder.

Eller en auto kanon som skyter ned droner rundt flyplasser.

[indahla]

...og han som IKKE trykket på atomknappen sist det var en datafeil, i 1983, fikk ikke mye skryt nei. Han ble flyttet vekk fra den posten. Selv om han reddet verden.

Hvem var dette?

Edit: denne episoden?

https://en.wikipedia.org/wiki/1983_Soviet_nuclear_false_alarm_incident

Endret 7. september 2017 av indahla