– Tenkende maskiner er en trussel mot vår eksistens

[OHJohansen]

Stephen Hawking advarer mot utviklingen av kunstig intelligens.

– Tenkende maskiner er en trussel mot vår eksistens

[TheKims]

Vi mennesker er en trussel mot vår eksistens.

Endret 4. desember 2014 av KimWhinesAlot

[Psykonaut]

Snart så har den nye A.I.en i rullestolen hans tatt over kontrollen og den mekaniske stemmen til Stephen Hawking roser robotene opp i skyene, mens den sier at vi kjøttsekker har intet å frykte fra våre nye kunstige herskere. Mens han sitter hjelpeløst låst fast i stolen, ute av stand til å røre seg eller si noe.

[tommyb]

Snart så har den nye A.I.en i rullestolen hans tatt over kontrollen (...) Mens han sitter hjelpeløst låst fast i stolen, ute av stand til å røre seg eller si noe.

Noen mener dette allerede har skjedd. :o

Endret 4. desember 2014 av tommyb

[xoltx]

Det må da være mulig å finne en balanse?

[morten_b]

Nå er jeg ofte uenig med Mr. Hawking, men i dette tilfellet mener jeg han har fullstendig rett. En ting er software bugs, enn helt annen er hvem som har kontroll over softwaren og motiver de måtte ha til bestemme hva den "kunstige" intelligensen skal gjøre i en gitt situasjon.

Folk bør ta inn over seg at en firmware som har en pekerfeil (som jo vel alle C/C++ programmer har) eller en som ikke har "range check" (gode Norske ord ) på input data kan ta de meste sinnsvake avgjørelser, for eksempel i en selvkjørende bil...
Og da er vi bare kommet til den primitive bruk av kunstig "intelligens".

Ingen kunstig "intelligens" er mer intelligent en vedkommende som har laget den !

Endret 4. desember 2014 av morten_b

[BufferedWriter]

Ingen kunstig "intelligens" er mer intelligent en vedkommende som har laget den !

 

Det er vel akkurat det artikkelen sier at kunstig intelligens kan bli, forutsatt at systemet kan lage nye iterasjoner av seg selv.

[Gjest Slettet-Pqy3rC]

Begrepet "kunstig intelligens" dekker mye rart.

 

Det er tvilsomt om noe selskap skulle ha nytte av å produsere maskiner med evnen til å skape sine egne mål. Maskiner som på egenhånd avgjør hva de skal benyttes til og endrer seg selv slik at de kan utføre dette (iterasjon). Dette ville være en farlig utvikling.

 

Det finnes liten (ingen) økonomisk vinning i å lage en slik maskin (dersom det var mulig teknisk). Den vil jo kunne erstatte alt mulig annet som kunne vært solgt til samme forbruker.

Den eneste risikoen for noe sånt ville være innen militært matriell ("auto adaptive war robots") eller kanskje et eller annet søkt universitetsprosjekt.

 

Så om "Skynet" noengang dukker opp vil jeg vel anta det har militær opprinnelse, vi mennesker har jo allerede i dag erfaringer med smått usunne oppfinnelser fra den kanten.

[cpt123]

tar noe av det som kommer fra Hawkin med en klype salt selv om han er et geni.

[tommyb]

Begrepet "kunstig intelligens" dekker mye rart.

 

Det er tvilsomt om noe selskap skulle ha nytte av å produsere maskiner med evnen til å skape sine egne mål. Maskiner som på egenhånd avgjør hva de skal benyttes til og endrer seg selv slik at de kan utføre dette (iterasjon). Dette ville være en farlig utvikling.

 

 

Det vil neppe være en bevisst handling å gi et system evnen til å skape sine egne mål. Det er helt klart at analyse av mål og identifisering og testing av metoder er noe av det man ønsker å benytte slike systemer til. Bare ved å analysere sine mål og påføre metode for å komme dit, har den skapt sine egne delmål. Og delmål kan raskt ende opp som primærmål, avhengig av hvordan arv fungerer i systemet.

 

Selv en velmenende og veldig begrenset AI er livsfarlig hvis man legger inn for få parametre.

 

Smarthuset ditt identifiserer at rengjøringsroboten klarer ikke å gjøre reint i stua når hunden er der. Huset ditt er utstyrt med rettighet til 3D-skriveren din, og skriver ut en hundeluftingsrobot. Denne blir utstyrt med målet "luft hunden". Uten et bedre definert mål enn det, vil hunden få seg en skikkelig dedikert hundelufter, kun begrenset av eventuelle "robotlover" som omfatter regler for dyrehold. Står det ikke i parametrene en begrensning av lengde på turene, regler for foring av en sulten/tørst hund, at hunden skal returneres mellom hver tur... Så kan det bli en ganske lang tur på bikkja før du som eier oppdager at bikkja er borte.

[netfrik]

*slettet*

Endret 29. mai 2016 av netfrik

[impetus73]

Onde maskiner, kan bare bekjempes av gode maskiner, vi må bare passe på å lage litt flere gode, enn onde... :-D

[Sjulimann]

Syntes tittelen på saken passet bra med bildet av Hawking

Endret 4. desember 2014 av Sjulimann

[SVD]

 

Nå har vi i alle fall nokk av filmer, bøker mm. som forteller oss hva vi kan forvente!

Endret 4. desember 2014 av SVD

[meg0709]

Men dette har jo en hver idiot skjønt for lenge siden, eller, det er jo visse idioter som er super naive å bare jaja, men dette blir så bra også er det bare SÅ genialt.

Kanskje ikke noe rart ting har gått som de har.

[Ar`Kritz]

Hawking henger for en gangs skyld litt etter. Dette HAR allerede skjedd. The Matrix has us...

[Geir Akselsen]

Man må faktisk ikke inneha doktorgrad for å forstå at roboter med høy grad av kunstig intelligens kan utgjøre en fare for menneskeheten. Glem balanse og våre evner til å lage god og "sikker" programvare. I det øyeblikket en kunstig intelligens blir programmert for å vurdere/analysere forbedringspotensial, og samtidig videreutvikling, vil selve utviklingsprosessen gå raskere og raskere. Man kan ikke lære grunnstoffer empati eller hensyn. Grunnprinsippet er å erstatte disse 2 med regler og lover i form av algoritmer. Kunstig intelligent analyse som er selvutviklende er også kynisk og vil kanskje kunne omgå disse lovene om den finner det hensiktsmessig veid i forhold til de regler som er lagt til grunn for egenutvikling.

Tror nok Elon Musk tar litt i med 5 år, men si 10 til 15 år så kan jeg vi vil oppleve litt tendenser

[Calm]

Har sett mange som sabler ned liknende spådommer, fra Elon Musk og mange før han. Denne skeptiske reaksjonen kan kanskje være lett å forstå når ankomsten av flyvende og selvkjørende biler har blitt spådd "om 10 år" siden 60-tallet, og eksotiske, optiske, tredimensjonale lagringsmedier, med tilnærmet uendelig kapasitet, omtrent årlig, og i en årrekke, i IT-pressen har blitt omtalt som rett rundt hjørnet. Det viser seg allikevel - og jeg mener flere tiår med science-fiction-litteratur og -filmer er et vitnesbyrd om dette - at vi konsekvent undervurderer potensialet i teknologi vi allerede kjenner og behersker.

[BonBattery]

hawking siterer eller lest "Laws of Robotics" og så er det nyhet.....litte med nyheter denne uken?

[pergh]

Man kan ikke lære grunnstoffer empati eller hensyn.

 

Mener du at ingen mennesker kan lære empati eller hensyn?

 

Hvis du har funnet ut at vi består av noe annet, så har du en aldri så liten nobel-pris i vente...

 

 

Mvh

Per Gunnar Hansø