Strong AI tar over verden?

[Redak Tøren]

Det er hvordan det vil skje som er fiksjon. Dette er jo ikke ukjente teorier heller, og jeg synes det er ganske interessant.

 

Du startet tråden med å si "det (er) vel ikke et spørsmål om det skjer, men når det skjer", noe vi da påpeker som feil.

Jeg sier "vel" og "tror". Du sier "du tar feil". Hvem konkluderer med fakta om fremtiden i så tilfelle?

[StormEagle]

Det mange ikke tenker over er at de aller fleste bruker en form for AI hver dag. Nemmelig google...

[dronjom]

husk på at google kan være manipulerende hvis de leser hva andre mener som kan være helt galt med vilje

[GeirGrusom]

Det mange ikke tenker over er at de aller fleste bruker en form for AI hver dag. Nemmelig google...

Google er en indekseringstjeneste... Hva er det som er så intelligent med den?

[Matsemann]

Det mange ikke tenker over er at de aller fleste bruker en form for AI hver dag. Nemmelig google...

Det finnes en million former for AI som brukes hver dag av veldig mange. Intelligente trafikklys, enormt mye på pc osv. og felles for alt er at de bare følger fastsatte regler, samler data og bruker det til å gjøre veloverveide beslutninger. Ingen agenda, baktanker, følelser osv.

[GeirGrusom]

Navnet AI deles ut over en lav sko i bransjen. Gamle spill hadde noe som kalles "Search and destroy AI" som ikke er intelligent overhode. Entiteten prøver rett og slett bare å gå til der spilleren befinner seg. Men det kalles likevel AI, fordi all oppførsel til entiteter i et spill kalles AI uansett hvor uintelligent algoritmen er.

[Redak Tøren]

La oss fastslå at AI som jeg snakker om er ofte omtalt som "strong AI", et begrep om kunstig intelligens som overgår menneskehjernen. Altså, en form for AI som ikke eksisterer enda. Kall det gjerne "true AI".

Her er det ingen som tror at et trafikklys eller en sjakksimulator kan ta over verden. Her er det snakk om et tenkende individ som lever i menneskeskapt elektronikk. For å forstå dette må man ha et åpent sinn og ikke la ens tanker begrense seg av hvordan ting ser ut i dag.

[SeaLion]

Altså som i Hal 2000, superdatamaskinen som var hjernen i romskipet i 2001 - en romoddyssé:

 

http://youtu.be/MOu2vqqPVqQ

[Ljóseind]

Så mye som vitenskapen har forandret seg de siste årene, og med så mange teorier om dette emnet, så er det kanskje ikke et spørsmål om det skjer, men når det skjer. Jeg tror Moores lov gir oss en god indikasjon.

 

Det var en gang et band som sang "in the year 2525, if man is still alive".

Personlig tror jeg det går fortere enn som så.

 

 

21. august 2039: En programvare blir i stand til å skrive en ny programvare som er bedre enn seg selv.

 

22. august 2039: Den nye programvaren skriver en ny programvare – som vi her kaller Program X - som er bedre enn seg selv, og den nye programvaren okkuperer prosessorkraft fra flere servere slik at den «lever» fragmentert og ikke kan oppdages eller stoppes

 

22. august 2039: Program X begynner en nøysom prosess med å ta kontrollen over internett, som per 2039 er integrert i 99 % av jordklodens mekaniske og elektroniske prosesser.

 

23. august 2039: Program X formerer og sprer seg som et ondt virus. Den begynner nå på prosessen med å stoppe/sabotere menneskelig kommunikasjon, og destruerer militære forsvarssystemer.

 

24. august 2039: USAs president erklærer unntakstilstand og varsler krig mot AI.

 

12. april 2045: Mennesket klarer ikke lenger å kjempe mot Program X eller programmets slaver, og Program X har full kontroll over automatiserte fabrikker over hele verden som starter prosessen med å bygge mekaniske kropper til Program X sitt avkom.

 

8. desember 2045: Jordkloden er fullstendig kolonisert av mekaniske innretninger, og planeten fungerer som en fabrikk som gir ressurser til AI slik at AI kan spre seg til andre steder i universet. Mennesket forstår ikke den nye formen for intelligens, og er helt overkjørt. Sultkatastrofer rammer hele verden, mens AI ignorerer menneskene. Mennesket blir verken angrepet eller hjulpet, men bare «er der».

 

1. november 2050: De siste menneskene som nå lever på bakkenivå dør.

 

13. januar 2078: Det finnes knapt mer biologisk liv på planeten. Gasser, væsker og brensel produseres utelukkende av mekanikk. AI har omdannet jordklodens atmosfære og hav til å bestå av andre gasser og væsker, og har fullstendig kontroll over klimaet og været. Planeten er ikke gjenkjennelig for mennesker, hvis mennesket fortsatt er i live.

 

 

Intil noen fant på å dra ut internettkabelen!

[Redak Tøren]

Å gjøre noe så drastisk vil lamme samfunnet vårt totalt, allerede i dag. Uten strøm og kommunikasjon blir vi satt mange tiår om ikke hundreår tilbake i tid. Det byr på utfordringer, når det finnes mennesker som aldri har sett ei melkeku.

[x871kx6167ss7]

Er helt enig at detaljene er ganske virklighetsfjernt, og «strong AI» er også kontroversielt.

 

Nå kommer derimot idéen om at et samfunn skal bli kastet rundt av at en gruppe får for seg at de har flere rettigheter enn de er gitt. Dessverre er ikke dette et resultat av hvor smarte og gode maskiner vi er: det er simpelthen slik vi er programmert. Vi har en gruppe mentalitet som med korrekt samling av individer kan rulle rundt en revolusjon.

 

Datamaskiner har ikke dette, fordi det er en oppførsel de ikke er programmert med. Datamaskiner er ikke flokkdyr, de har ikke noen leder-idéer, eller engang noe å tjene på å ta over verden. Maskiner føler ikke smerte, de utfører ikke semantiske sammenligninger. Datamaskiner er ikke istand til denne slags oppførsel med mindre de er programmert til det (noe vi er). Det er ikke snakk om antall transistorer, de er rett og slett ikke laget med den hensikten.

 

Jeg anser ikke dette som en relevant problemstilling, at det er en form for «stråmann-argument». Du sier selv at mennesker i bunn og grunn er maskiner, men hva skiller menneskets «opplevelse» av «følelser» fra en hypotetisk ai-maskin sinn «opplevelse» av «følelser»?

 

 

Om vi hopper over det usannsynlige, som AI som ønsker å ta over verden og faktisk klarer å programmere seg selv, [...].

Det er da ikke noe problem å lage programmer som på runtime redefinerer sine egne funksjoner? Lisp-systemer har da gjort dette i mange ti-år. En av tingene som gjorde lisp populært innen AI-verdnen var nettopp det at man tenkte seg at programmene kunne rekompilere deler av seg selv etter hvert som det «lærte» ting.

 

 

Jeg diskuterte ikke hvorvidt AI er mulig eller ikke. Jeg påpekte at enhver AI er en maskin vi har bygget. Enhver maskin (mennesker også) vil aldri gjøre noe som ikke faller innenfor programmeringen, eller som programmeringen eksplisitt har motforestillinger mot.

Det er vi som lager AI, og selv om den utvikler seg selv, så utvikler den seg selv på våre premisser.

Jeg forstår ikke helt hva du mener her. Dersom man prøver å lage et avansert AI-system, så vil vel primissene være praktisk talt være fraværende?

 

Og mener du at mennesker i praksis greier å trekke alle konklusjoner fra gitte premisser (selv i et deterministisk system hvor man har total kunnskap)?

[GeirGrusom]

Jeg anser ikke dette som en relevant problemstilling, at det er en form for «stråmann-argument». Du sier selv at mennesker i bunn og grunn er maskiner, men hva skiller menneskets «opplevelse» av «følelser» fra en hypotetisk ai-maskin sinn «opplevelse» av «følelser»?

Ingenting, som er litt av poenget. Hvorfor vil du implementere "opplevelser" eller "følelser" i en maskin?

[x871kx6167ss7]

Mulig vi snakker litt forbi hverandre siden første post gir inntrykk av at et CMS-gone-wild skal ta over verden, men dersom noen ønsker å lage et program som etterligner mennesklig intelligens, så er det vel naturlig å implementere noe som ligner på følelse og opplevelse?

[Redak Tøren]

Enhver maskin (mennesker også) vil aldri gjøre noe som ikke faller innenfor programmeringen, eller som programmeringen eksplisitt har motforestillinger mot.

Det vil si at din oppfattelse er at mennesket er programmert til å ta over verden, ettersom det er det vi har gjort. Det vil igjen si at i følge din definisjon så må vi programmere AI til å ta over verden, for at det skal kunne skje. Da blir forskjellen her at jeg tror vi, med et uhell, med kvanteteknikk kan lage et program som finner ut av dette selv, mens du mener at dette kun kan skje med menneskets viten og vilje. Selv om det du sier stemmer, er vi ikke trygge da heller. Det finnes som kjent mange syke mennesker der ute, som er "programmert" til å sette slike scenarioer i gang.

[GeirGrusom]

Mulig vi snakker litt forbi hverandre siden første post gir inntrykk av at et CMS-gone-wild skal ta over verden, men dersom noen ønsker å lage et program som etterligner mennesklig intelligens, så er det vel naturlig å implementere noe som ligner på følelse og opplevelse?

Hvis hensikten er å lage en maskin som etterligner mennesker er det nok det. Men disse kommer neppe til å ta over verden, både fordi de mangler verktøyer og kunnskap for å gjøre det. Det er ikke gitt at en datamaskin kan programmere for eksempel, eller engang er flink til det. Og hvis du skal lage et program som driver med utvikling av programvare er det fullstendig uten hensikt å dytte inn alt det en forbinder med menneskelig oppførsel, ettersom oppgaven er å revidere programvare.

 

Igjen: det er vi som bygger dem, vi bestemmer 100% hvordan de skal oppføre seg. så med mindre noen nærmest bygger en maskin med denne hensikten er dette scenarioet trygt plassert i science fiction.

[Milktea]

Strong AI er en av mine våte drømmer, men tror nok dessverre jeg kommer meg gjennom karbonkretsløpet et par ganger før vi engang begynner å nærme oss. Vi har tilnærmelig null forståelse av hva selvbevisst er, så jeg vet ikke engang om jeg skal tro Strong AI drevet av en Turing-maskin er mulig eller ikke. Dog tar jeg det for gitt at utviklingen av Weak AI vil gå fremover mot den dagen de to er uadskillelige for oss, og da kan det nesten være det samme.

 

Strong AI trenger ikke ha samme tankegang eller motivasjoner som et mennesket selv om den er intellektuelt likeverdig. Et poeng her er vel også at intelligens kan være så mangt, selv oss mennesker imellom. Bare se på barn som blir fostret opp av ulver - kun utseende vitner om at de ikke faktisk er født av villdyr.

 

Et annet poeng er at kravet for hva som konvensjonelt regnes for kunstig intelligens settes høyere for hver gang en deterministisk fremgangsmåte blir beskrevet. En datamaskin som utfører en dugelig algoritme er for eksempel mye bedre til å spille sjakk enn meg, men ytterst få kaller den intelligent av den grunn. Personlig vil jeg si at ethvert program som løser et problem er intelligent, bare at det ikke gir mening å måle dets intelligens opp mot vår egen.

 

At kunstig intelligens setter vår eksistens på spill er et morsomt tankeeksperiment, men ikke stort mer sannsynlig enn at sjakkprogrammet på mobilen min plutselig får blod på tann. Har sett mange som har seriøst fundert over om AI vil kunne ta over verden; tror ingen av dem har vært utdannet dataingeniør.

Endret 2. desember 2011 av Milktea

[-kga-]

Hadde vært kult å få oppleve AI som er på samme nivå som oss. Sjansen for det er vel omtrent null for oss som lever nå, med mindre man finner opp noe som stopper aldringsprosessen.

 

 

Trur det er større fare for at noen self replicating små nano roboter som er giftige eller skadelige for mennesker vil ta over verden føre vi klarer å utvikle en strong AI som gjør det. Burde gå fint å lage slikt med dagens AI teknologi... men aner ikke hvor lang tid det vil ta føre nano teknologien er god nokk.

 

Tviler på at noe av dette kommer til å skje. Når vi klarer å lage AI som kan konkurrere med oss så kan vi sikkert så mye om hjernen å menneske kroppen at vi kan utvikle oss selv til å holde tritt med AI teknologien.

[x871kx6167ss7]

Men disse kommer neppe til å ta over verden, både fordi de mangler verktøyer og kunnskap for å gjøre det. Det er ikke gitt at en datamaskin kan programmere for eksempel, eller engang er flink til det. Og hvis du skal lage et program som driver med utvikling av programvare er det fullstendig uten hensikt å dytte inn alt det en forbinder med menneskelig oppførsel, ettersom oppgaven er å revidere programvare.

 

Igjen: det er vi som bygger dem, vi bestemmer 100% hvordan de skal oppføre seg. så med mindre noen nærmest bygger en maskin med denne hensikten er dette scenarioet trygt plassert i science fiction.

Du sier "neppe" og "det er ikke gitt", noe som gir inntrykk at du åpner opp for muligheten. Videre så virker det som om du antar at det aktuelle programmet er laget for å løse et konkret problem, og ikke for generell AI. Jeg tror neppe at et slikt program vil komme ut av kontroll. Men et program med generell AI som er koblet på internett vil vel kunne skape viruslignende oppførsel?

 

Så jeg føler igjen at vi snakker forbi hverandre. Dersom vi prøver å lage en form for kunstig inteligens, så er det vel gitt at programmereren prøver i stor grad å gi programmet frihet i forhold til oppførsel.

 

Ikke tro at jeg tror at verden vil bli tatt over av datamaskiner en gang i fremtiden, men jeg ser ikke hvordan argumentene dine utelukker det.

 

Fornuftige ting du sier, Milktea.

[Gjest bruker-45896]

 

Igjen: det er vi som bygger dem, vi bestemmer 100% hvordan de skal oppføre seg. så med mindre noen nærmest bygger en maskin med denne hensikten er dette scenarioet trygt plassert i science fiction.

 

Hvorfor er dette automatisk sant?

 

Hjernene til mennesker er maskiner.

 

Virkelighetsoppfatningen til ganske mange i dag er at vi kun er hjernen vår, en datamaskin for en avansert robot. Bevissthet og fri vilje er konsepter som ikke er forstått, men det virker som at hjernen spiller en stor rolle.

 

Hvorfor ville det ikke være mulig å lage en maskin som etterlignet dette?

[Shruggie]

Sukk... Det AIet dere snakker om må ha tre VILLT forskjellige deler, som hver i seg selv vil være tilnærmet umulig å lage.

1: AI må kunne lære. Lykke til; det er alt jeg sier om det.

2: AI må kunne BRUKE lærdommen sin, altså må den utvikle seg selv. Dette er nok litt enklere, men ikke i nærheten av mulig i dag.

3: AI må av en eller annen SINNSVAK grunn ha blitt programmert med et ønske om å utslette mennesket. Med 1 og 2 i boks vil dette være en piece of cake, men WHY????