5 spørsmål om kunstig intelligens

[Redaksjonen.]

Slik jobber norske fagmiljøer for å bygge kompetanse innen kunstig intelligens.

5 spørsmål om kunstig intelligens

[Gavekort]

Når er en maskin intelligent? If it walks like a duck and quacks like a duck, then it is a duck. Jeg tror vi mennesker er for arrogante til å se på oss selv som "automatons" i jakten på å maksimere lykke. Kunstig intelligens gjør alt for å kunne maksimere sin egen lykke, så om dette blir så komplekst at den finner ut at et leit fjes vekker medfølelse, smalltalk gir informasjon den kan bruke i fremtiden til lykkemaksimering og et smil gjør mennesker mer samarbeidsvillige, så er vel dette mer eller mindre en maskin som har funnet litt av de samme cluene vi har fått gjennom evolusjon. Jeg tror ikke intelligens er noe som popper opp, men som oppstår når vi mennesker sier at de har nådd en fiktiv og magisk terskel.

 

Det er kynisk og banalt, men jeg skylder på at jeg må holde meg litt kortfattet.

Endret 14. juli 2017 av Gavekort

[nessuno]

Denne "walks like a duck" saken heter Turing-test. Men ellers så er menneskelige oppfatningen av intelligens like begrenset som den menneskelige forventningen til hva liv (intelligent eller ei) er i det hele tatt: man fortutsetter noe med et utgangspunkt i det man har kjentskap til - mennekskelig intelligens og vann/karbon basert liv.

Dette skal absolutt ikke brukes som "eneste og rette" kriteriet for hva annen intelligens er eller kan være, menneskeskapt eller ei.

Og litt off-topic så å si: anbefaler filmen "Colossus: The Forbin Project". Av alle sånne filosofiske dypdykk i teorier om hva AI kan bli til virket denne mest logisk.

[Gavekort]

Nja. Turing testen har sine begrensninger, og beskriver ikke akkurat generell intelligens, noe som er opplagt i og med at vi allerede har KIer som har "bestått" Turing tester.

 

Jeg tror aldri at vi vil nå vårt magiske mål, og jeg tviler på at vår måte å maksimere vår egen lykke på er den eneste som er riktig, så den kan like godt utvikle seg til å bli en "lone wolf" uten å gi uttrykk for følelser, fordi følelser ikke er nødvendig for å kunne maksimere lykke. Drømming? Er det nødvendig? Indre stemme? Er det dette som identifiserer vår magiske terskel?

 

En robot som kan fysisk utnytte miljøet på en effektiv måte, som kan lære, gjøre logiske handlinger uten umiddelbare resultater og overleve som et selvstendig og konkurransedyktig vesen, det tror jeg er et godt utgangspunkt til intelligens.

Endret 14. juli 2017 av Gavekort

[Halvor Sølvberg- the MOV]

Ville forventet litt mer interesse innen mitt fagfeldt før AI blir aktuell.

Metaorganiseringsteorien og praksisen er en for viktig form og kunskap til bare å hoppe bukk eller reklame over.

Endret 14. juli 2017 av Halvor Sølvberg- the MOV

[zeebra]

Huff. Det skal ikke mer enn en eneste bug til i en litt kraftig kunstig intelligent maskinvare før den går amok.

[Halvor Sølvberg- the MOV]

Huff. Det skal ikke mer enn en eneste bug til i en litt kraftig kunstig intelligent maskinvare før den går amok.

 

Eller en avis, med feil til 1000 eller 1/1000....

[Thoto79]

The moment of Singularity... trenger for all del ikke bli pent for oss nei. Syntes det er rart det forskes på AI tilsynelatende uten at sikkerhet er avgjørende for videre framgang.

[Gavekort]

Dagens kunstige intelligens slik som nevrale nettverk får strengt tatt ikke bugs i den forstanden, siden selve kunnskapen er et digert blackbox-system skapt som et produkt av konkrete krav vi stiller til den.

 

Sikkerhet blir tatt svært seriøst, og jeg kan se for meg at dette blir mer tydelig når KI begynner å få et farlig potensiale.

Endret 14. juli 2017 av Gavekort

[zeebra]

The moment of Singularity... trenger for all del ikke bli pent for oss nei. Syntes det er rart det forskes på AI tilsynelatende uten at sikkerhet er avgjørende for videre framgang.

Det er profitt som teller. Det er tross alt profitabelt å fiske havet tomt og hogge ned alle trær.

 

Menneskeheten styres ikke av behov eller fornuft, de styres av grådighet.

[Thoto79]

Dagens kunstige intelligens slik som nevrale nettverk får strengt tatt ikke bugs i den forstanden, siden selve kunnskapen er et digert blackbox-system skapt som et produkt av konkrete krav vi stiller til den.

 

Sikkerhet blir tatt svært seriøst, og jeg kan se for meg at dette blir mer tydelig når KI begynner å få et farlig potensiale.

 

Forskningen stopper vel neppe opp og det hele syntes litt uunngåelig. Før vi når dette punktet hvor det hele kan bli til noe selvdestruktivt tror jeg vi må som Musk spår integrere det hele i oss om vi ikke skal gjøre oss selv avleggs, siden det er vanskelig å svelge at mennesker bare var ett trinn i evolusjonen og forsvinne til fordel av noe annet... samtidig som det jo også er veldig naturlig.

Endret 14. juli 2017 av Thoto79

[Gavekort]

Nei jeg tror utbytte for kunstig intelligens utveier potensielle konsekvenser, men jeg tror nok at varsomhet kommer til å bli et hett tema om noen år, kanskje til og med noen begrensninger i form av forbud. Aner ikke.

 

Ikke at det fikk inntrykk av dette i tråden, men det er også viktig å skille strong AI fra weak AI. Sistnevnte tror jeg kommer til å suse frem i nær fremtid, mens førstnevnte blir nok en del mer kontroversielt. Her så snakker vi om strong AI, og da er det viktig å tenke på konsekvenser. Men jeg tror at innen vi er der så har vi en bedre forståelse for hva en strong AI faktisk vil innebære, men det er ikke lett å outsmarte en maskin flere ganger mer intelligente enn oss selv, så å forsøke å stenge inne en KI vil være et våpenkappløp vi trolig vil tape.

[nessuno]

Nja. Turing testen har sine begrensninger, og beskriver ikke akkurat generell intelligens, noe som er opplagt i og med at vi allerede har KIer som har "bestått" Turing tester.

 

Jeg tror aldri at vi vil nå vårt magiske mål, og jeg tviler på at vår måte å maksimere vår egen lykke på er den eneste som er riktig, så den kan like godt utvikle seg til å bli en "lone wolf" uten å gi uttrykk for følelser, fordi følelser ikke er nødvendig for å kunne maksimere lykke. Drømming? Er det nødvendig? Indre stemme? Er det dette som identifiserer vår magiske terskel?

 

En robot som kan fysisk utnytte miljøet på en effektiv måte, som kan lære, gjøre logiske handlinger uten umiddelbare resultater og overleve som et selvstendig og konkurransedyktig vesen, det tror jeg er et godt utgangspunkt til intelligens.

 

Tingen er at i mange "tester" så har man egentlig skreddersydd "AI" til selve testen, og egentlig så er denne "AI" so-so, og kan ikke klare testen så snart man spør om komplekse svar eller graver dypt i bla.a. kreativ tankegang og abstrakte ting. En perfekt eksempel på slik ersatz-"intelligens" er Cortana, Siri, Alexa etc; digital papegøye som er tilpasset en helt konkret oppgave.

Så jeg ville faktisk sagt at per dags dato så har man hverken AI og heller ikke har man klart seg gjennom TT.

Forresten så er en del av problemet IMHO selve testen: som sagt før man forventer at intelligens skal automatisk bety intelligens på "menneskelig nivå". Man bør også egentlig forvente intelligens med andre kjennetegn enn nettop denne stereotypiske "digital ikke-homo sapiens men med homo sapiens type intelligens".

Men så vidt jeg skjønner det er den kommersielle interessen i AI/KI det å kunne ha et system som kan løse oppgaver med metoder som er "out of the box", som ikke er bundet til faste algorytmer men heller prøv-og-feil-på-steroider som f.eks. ser etter mer og mer effektiv målrettet reklame i forhold til brukrnes interesser eller eks. mer effektiv aksje-spåkone som kan faktisk til slutt samle enorme mengder med tilsynelatende ikke-relatert data og sy det sammen i et felles bilde. Så her har man egentlig et prakteksempel på det jeg snakker om - det blir KI deg også, bare i en helt annen form enn det mennesker forventer med tanke på hva der er vant med (Siri, Cortana, etc).

[Thoto79]

Nei jeg tror utbytte for kunstig intelligens utveier potensielle konsekvenser, men jeg tror nok at varsomhet kommer til å bli et hett tema om noen år, kanskje til og med noen begrensninger i form av forbud. Aner ikke.

 

Ikke at det fikk inntrykk av dette i tråden, men det er også viktig å skille strong AI fra weak AI. Sistnevnte tror jeg kommer til å suse frem i nær fremtid, mens førstnevnte blir nok en del mer kontroversielt. Her så snakker vi om strong AI, og da er det viktig å tenke på konsekvenser. Men jeg tror at innen vi er der så har vi en bedre forståelse for hva en strong AI faktisk vil innebære, men det er ikke lett å outsmarte en maskin flere ganger mer intelligente enn oss selv, så å forsøke å stenge inne en KI vil være et våpenkappløp vi trolig vil tape.

 

Ja det er vel sånn at svak AI bekymrer mer på kortsikt i og med at det går utover jobber og vil utdatere mange mennesker slik sett, om 15 år er neppe sjafør lenger er ett yrke. På en annen side vil nye jobber oppstå og de fleste ser vel på det hele som en positiv.

 

På lang sikt derimot, se 100, 200 eller 500 år fram i tid, så vil teknologien ta oss igjen som i at vi ikke lenger trengs på noen måte og AI må kanskje bli integrert som i ett ledd for egen overlevelse. Slik type levende sterk AI blir ren sci-fi idag selvfølgelig men det virker samtidig unektelig skremmende sannsynlig med ett scenario som i at if you can`t beat them, join them

[Gavekort]

Tingen er at i mange "tester" så har man egentlig skreddersydd "AI" til selve testen, og egentlig så er denne "AI" so-so, og kan ikke klare testen så snart man spør om komplekse svar eller graver dypt i bla.a. kreativ tankegang og abstrakte ting. En perfekt eksempel på slik ersatz-"intelligens" er Cortana, Siri, Alexa etc; digital papegøye som er tilpasset en helt konkret oppgave.

Så jeg ville faktisk sagt at per dags dato så har man hverken AI og heller ikke har man klart seg gjennom TT.

Forresten så er en del av problemet IMHO selve testen: som sagt før man forventer at intelligens skal automatisk bety intelligens på "menneskelig nivå". Man bør også egentlig forvente intelligens med andre kjennetegn enn nettop denne stereotypiske "digital ikke-homo sapiens men med homo sapiens type intelligens".

Men så vidt jeg skjønner det er den kommersielle interessen i AI/KI det å kunne ha et system som kan løse oppgaver med metoder som er "out of the box", som ikke er bundet til faste algorytmer men heller prøv-og-feil-på-steroider som f.eks. ser etter mer og mer effektiv målrettet reklame i forhold til brukrnes interesser eller eks. mer effektiv aksje-spåkone som kan faktisk til slutt samle enorme mengder med tilsynelatende ikke-relatert data og sy det sammen i et felles bilde. Så her har man egentlig et prakteksempel på det jeg snakker om - det blir KI deg også, bare i en helt annen form enn det mennesker forventer med tanke på hva der er vant med (Siri, Cortana, etc).

 

Ja. Tror jeg vil frem til det samme. En Turing test forteller ikke noe om en robot vil gå hjem og gråte fordi et menneske ikke antok den for å være ekte. Slik jeg forstår deg så antyder du også at intelligens er en definisjon som har en vag betydning. Jeg tror ikke vi har noe å tjene på å sette oss selv som en benchmark og kalle alt mindre menneskeaktig for en lur automaton, når alt det som definerer oss mennesker kan brytes ned til helt rasjonelle evolusjonære grep for å maksimere vår lykke og sjanse for å overleve, slik som et smil på gata eller drømmer om crushet ditt. Det er selvsagt litt kontroversielt for noen å påstå at "jeg-et" ikke er noe mer enn et sort hull i midten av hodet vårt, og at det oppleves som et logisk paradoks at denne hjernen kan kopieres 1:1 og skape en ny deg med det samme sorte hullet vi kaller for "jeg-et". Jeg tror derfor at dette "jeg-et" kan skapes i kunstige intelligente vesener også, og det gir kanskje like lite mening for de også.

 

Jeg tar som sagt full plankekjøring på banal filosofi her, og gjør sikkert noen filosofer så rasende at de oppretter bruker på forumet (velkommen skal dere være).

 

Ja det er vel sånn at svak AI bekymrer mer på kortsikt i og med at det går utover jobber og vil utdatere mange mennesker slik sett, om 15 år er neppe sjafør lenger er ett yrke. På en annen side vil nye jobber oppstå og de fleste ser vel på det hele som en positiv.

 

På lang sikt derimot, se 100, 200 eller 500 år fram i tid, så vil teknologien ta oss igjen som i at vi ikke lenger trengs på noen måte og AI må kanskje bli integrert som i ett ledd for egen overlevelse. Slik type levende sterk AI blir ren sci-fi idag selvfølgelig men det virker samtidig unektelig skremmende sannsynlig med ett scenario som i at if you can`t beat them, join them

 

Jeg vet ikke hvor lang tid det vil ta før vi kan begynne å snakke om en realistisk Strong AI, men utviklingen går fort. Egentlig så vil jeg ikke være for pessimistisk heller, det er bare det at konsekvensene er fatale, så vi må anta at en hver KI vil være grådig og ond, spesielt om vi mennesker blir som en maurtue.

Endret 14. juli 2017 av Gavekort

[Enra]

 

The moment of Singularity... trenger for all del ikke bli pent for oss nei. Syntes det er rart det forskes på AI tilsynelatende uten at sikkerhet er avgjørende for videre framgang.

Det er profitt som teller. Det er tross alt profitabelt å fiske havet tomt og hogge ned alle trær.

 

Menneskeheten styres ikke av behov eller fornuft, de styres av grådighet.

Med mindre ressursene eies av private aktører. Da vil de tilstrebe seg etter å forvalte en måte som gjør at man også har en ressurs å høste i morgen, hvis behovet for trær er stort nok til at det blir lønnsomt å plante nytt framfor å selge det til boligbyggere. Forvalter man en ressurs på en lite lønnsom måte vil man tape penger. Staten kan dekke tapet med skatt. Private aktører må dekke det med egen pengepung, og taper de mye går de konkurs. Problemet med statlig eierskap er at de ikke har de samme incentivene til verdiskapning som private aktører, først og fremst gjennom at eieren selv må bære kostnaden for dårlig forvaltning. Staten kan overføre kostnaden til skattebetalere, som er tvunget til å betale skatt. Private aktører må skaffe penger selv enten ved å spare eller ved å hente finansiering i markedet. Dette gjør at private aktører har et sterkere incentiv til å unngå å tape penger.

 

La oss si du eier en drikkevannskilde. Vil du tømme den så fort som mulig til under markedspris og gå glipp av muligheten til å fordele salget over lengre tid og dermed muligheten til å oppnå høyere snittpris? Eller du eier en skog. Vil du kappe ned alt så fort som mulig uten å igjenplante og la et område som kunne gitt ny skog om 20 år stå brakk? Eller du eier en boligblokk. Vil du la være å vedlikeholde og gjøre den uegnet til utleie om 20 år når du kunne vedlikeholdt og fått inntekter over 100 år? Eller du eier et fiskevann. Vil du selge så mange fiskekvoter som mulig og etterlate vannet tomt for fisk etter et par år?

Endret 14. juli 2017 av Enra

[Halvor Sølvberg- the MOV]

 

 

The moment of Singularity... trenger for all del ikke bli pent for oss nei. Syntes det er rart det forskes på AI tilsynelatende uten at sikkerhet er avgjørende for videre framgang.

Det er profitt som teller. Det er tross alt profitabelt å fiske havet tomt og hogge ned alle trær.

 

Menneskeheten styres ikke av behov eller fornuft, de styres av grådighet.

Med mindre ressursene eies av private aktører. Da vil de tilstrebe seg etter å forvalte en måte som gjør at man også har en ressurs å høste i morgen, hvis behovet for trær er stort nok til at det blir lønnsomt å plante nytt framfor å selge det til boligbyggere. Forvalter man en ressurs på en lite lønnsom måte vil man tape penger. Staten kan dekke tapet med skatt. Private aktører må dekke det med egen pengepung, og taper de mye går de konkurs. Problemet med statlig eierskap er at de ikke har de samme incentivene til verdiskapning som private aktører, først og fremst gjennom at eieren selv må bære kostnaden for dårlig forvaltning. Staten kan overføre kostnaden til skattebetalere, som er tvunget til å betale skatt. Private aktører må skaffe penger selv enten ved å spare eller ved å hente finansiering i markedet. Dette gjør at private aktører har et sterkere incentiv til å unngå å tape penger.

 

La oss si du eier en drikkevannskilde. Vil du tømme den så fort som mulig til under markedspris og gå glipp av muligheten til å fordele salget over lengre tid og dermed muligheten til å oppnå høyere snittpris? Eller du eier en skog. Vil du kappe ned alt så fort som mulig uten å igjenplante og la et område som kunne gitt ny skog om 20 år stå brakk? Eller du eier en boligblokk. Vil du la være å vedlikeholde og gjøre den uegnet til utleie om 20 år når du kunne vedlikeholdt og fått inntekter over 100 år? Eller du eier et fiskevann. Vil du selge så mange fiskekvoter som mulig og etterlate vannet tomt for fisk etter et par år?

Det er vel å bra med teori, men det har aldrig hindret virkligheten.

 

Ta olje, en ikke fornybar resurs......

 

Tilbakeføring av vatnkraftanlegg i US, osv

[007CD]

Basert på reve eksperimentet i Russland, så tyder det på at vår intelligens ikke kom først av evolusjonen for eksempel.

Etter dataene de har så langt, så ser det ut til at vi ble faktisk vennligere først, og intelligensen kom i etterkant.

 

http://www.bbc.com/earth/story/20160912-a-soviet-scientist-created-the-only-tame-foxes-in-the-world

[nessuno]

Ja. Tror jeg vil frem til det samme. En Turing test forteller ikke noe om en robot vil gå hjem og gråte fordi et menneske ikke antok den for å være ekte. Slik jeg forstår deg så antyder du også at intelligens er en definisjon som har en vag betydning. Jeg tror ikke vi har noe å tjene på å sette oss selv som en benchmark og kalle alt mindre menneskeaktig for en lur automaton, når alt det som definerer oss mennesker kan brytes ned til helt rasjonelle evolusjonære grep for å maksimere vår lykke og sjanse for å overleve, slik som et smil på gata eller drømmer om crushet ditt. Det er selvsagt litt kontroversielt for noen å påstå at "jeg-et" ikke er noe mer enn et sort hull i midten av hodet vårt, og at det oppleves som et logisk paradoks at denne hjernen kan kopieres 1:1 og skape en ny deg med det samme sorte hullet vi kaller for "jeg-et". Jeg tror derfor at dette "jeg-et" kan skapes i kunstige intelligente vesener også, og det gir kanskje like lite mening for de også.

I forhold til det som er fremhevet: ikke helt.

Det jeg mener er at den kommersielle AI/KI er egentlig et ikke-rigid logisk system som tillater fortløpende endriger i logikken til å tilpasse seg arbeidsoppgaven. Eksempler på dette - det helt rudimentære - finnes på bla.a. Youtube der man kan se primitiv NN løse oppgaver som f.eks. spille Mario-spill ved å lære seg mekanikken med prøv-og-feil.

Så den KI/AI man gjerne tenker om i kommersiell sammenheng vil ha mer til felles med den jeg nevnte her - maskin som er tilpasser mer eller mindre konkrete oppgaver med som har nok frihet til å kunne tilpasse seg betydelige endriger i oppgaven eller til og med en helt annen oppgave.

I dyrenes verden kan man sammenligne slike ting med f.eks. en katt. Katter har ingen naturlig kjentskap til dører, men gjennom observasjon og noe kreativ problemløsing har jeg sett de med egne øyne hoppe opp på dørhåndtak og åpne dører, til og med dører med runde håndtak. Så dette blir da også "intelligens", bare ikke på det nivået mennesker vil forvente siden vi forventer så å si "intelligens som oss".

Så dette fører til neste argument: hva skal Turing Test teste da? Den førstnevnte blir også intelligens - på en annen nivå. En annen type intelligens vil da være innenfor kriteriene av TT med tanke på at den skal klare testen og være så å si "menneskeaktig".

Men det er da samtidig ikke utelukket at en dag har vi KI som er mange hakk over oss på alle måter, og da er slike tester meningsløse for det blir som om maur skal teste mennesker med sine "intelligenstester".

[Enra]

 

 

 

The moment of Singularity... trenger for all del ikke bli pent for oss nei. Syntes det er rart det forskes på AI tilsynelatende uten at sikkerhet er avgjørende for videre framgang.

Det er profitt som teller. Det er tross alt profitabelt å fiske havet tomt og hogge ned alle trær.

 

Menneskeheten styres ikke av behov eller fornuft, de styres av grådighet.

Med mindre ressursene eies av private aktører. Da vil de tilstrebe seg etter å forvalte en måte som gjør at man også har en ressurs å høste i morgen, hvis behovet for trær er stort nok til at det blir lønnsomt å plante nytt framfor å selge det til boligbyggere. Forvalter man en ressurs på en lite lønnsom måte vil man tape penger. Staten kan dekke tapet med skatt. Private aktører må dekke det med egen pengepung, og taper de mye går de konkurs. Problemet med statlig eierskap er at de ikke har de samme incentivene til verdiskapning som private aktører, først og fremst gjennom at eieren selv må bære kostnaden for dårlig forvaltning. Staten kan overføre kostnaden til skattebetalere, som er tvunget til å betale skatt. Private aktører må skaffe penger selv enten ved å spare eller ved å hente finansiering i markedet. Dette gjør at private aktører har et sterkere incentiv til å unngå å tape penger.

 

La oss si du eier en drikkevannskilde. Vil du tømme den så fort som mulig til under markedspris og gå glipp av muligheten til å fordele salget over lengre tid og dermed muligheten til å oppnå høyere snittpris? Eller du eier en skog. Vil du kappe ned alt så fort som mulig uten å igjenplante og la et område som kunne gitt ny skog om 20 år stå brakk? Eller du eier en boligblokk. Vil du la være å vedlikeholde og gjøre den uegnet til utleie om 20 år når du kunne vedlikeholdt og fått inntekter over 100 år? Eller du eier et fiskevann. Vil du selge så mange fiskekvoter som mulig og etterlate vannet tomt for fisk etter et par år?

Det er vel å bra med teori, men det har aldrig hindret virkligheten.

 

Ta olje, en ikke fornybar resurs......

 

Tilbakeføring av vatnkraftanlegg i US, osv

De enorme demningene som ble bygd i USA etter depresjonen var jo bygd av staten.