Apple-grunnlegger: – Datamaskiner kommer til å ta over for mennesker

[sitdown]

I vanlige datamaskinteknologi er vel ikke problemer i forhold til selvbevissthet.

Man kan programmere en enhet til at vi ikke merker forskjellen på en samtale med enheten og en person. Man kan også få enheten til å lære nye ting på egen hånd. Man kan vel også programmere en enhet til å prøve alt den kan for å ta over/hacke enheter på nettet, og bruke apperater i huset til å drepe mennesker. F.eks. kombinasjonen av webkamera og en internettilkoblet gasskomfyr. Den kan sikkert også lære seg å gjøre dette selv på bakgrunn at noen har programmert enheten med instruksjoner for å prøve å drepe mennesker.

Men vi kan fortsatt ikke si at maskinen har selvbevisthet og fri vilje? Det kan virke sånn, men det er ikke slik.

Det er vel når man går over til kvanteteknologi man kan begynne å si at en datamaskin blir noe som nærmer seg et individ?

[Milmo]

 

Kunstig intelligens vil, på et eller annet tidspunkt, nå et nivå som gjør datamaskiner i stand til å tenke som mennesker. Og det er all grunn til å være bekymret for det.

 

 

Konseptet rundt kunstig intelligens har jo blitt til en mytologi. VR-pioneren Jaron Lanier påpeker mange myter rundt AI. Lanier tegner et mer edruelig bilde av hva faktisk AI er og fungerer. Framfor et skrekkscenario à la Skynet, som ikke er særlig realistisk. En AI blir jo ikke automatisk en James Bond skurk bare vi gir den nok hardware og avanserte algoritmer. 

 

Intervjuet med Lanier:

http://edge.org/conversation/jaron_lanier-the-myth-of-ai

[Milmo]

Man kan programmere en enhet til at vi ikke merker forskjellen på en samtale med enheten og en person. 

 

Nei, man vil kjapt merke forskjellen. En datamaskin vil ikke "forstå" visse konsepter intuitivt slik vi mennesker gjør. Det gjelder spesielt språk, som ikke er logiske strukturer. F.eks så vil en datamaskin ikke kunne hanskes med konsepter som overført betydning, sammenligninger, sarkasme, ironi, allegorier, retorikk andre språklige virkemidler. 

[magne.moe]

 

Man kan programmere en enhet til at vi ikke merker forskjellen på en samtale med enheten og en person. 

 

Nei, man vil kjapt merke forskjellen. En datamaskin vil ikke "forstå" visse konsepter intuitivt slik vi mennesker gjør. Det gjelder spesielt språk, som ikke er logiske strukturer. F.eks så vil en datamaskin ikke kunne hanskes med konsepter som overført betydning, sammenligninger, sarkasme, ironi, allegorier, retorikk andre språklige virkemidler. 

 

Jup, stille et duste spørsmål og den vil knote det til.

Riktig svar på spørmålet: er du fra mars er: nei, om den ikke tar den vanskelige veien og spøker tilbake.

Siste chat bot jeg var borte strøk på første setning, husker ikke svaret så det var et slags politiker svar for å sikre seg.

[AH-tjo]

Dette hørtes skummelt ut for sosialdemokratiske regjeringer. Maskinene kvitter seg med dem for å få bort sinkende byråkrati. Tror jeg skal være tidlig ute med å tipse disse maskinene om dette. :-) Kanskje dette også virker mot kinesernes fremtidige verdensdominans?!

[lhz]

Dette hørtes skummelt ut for sosialdemokratiske regjeringer. Maskinene kvitter seg med dem for å få bort sinkende byråkrati. Tror jeg skal være tidlig ute med å tipse disse maskinene om dette. :-) Kanskje dette også virker mot kinesernes fremtidige verdensdominans?!

 

Har ikke dette allerede skjedd, siden bortimot alle politikere svarer som dårlig programmerte roboter?

[XmasB]

En datamaskin er avhengig av strøm for å fungere. På et eller annet tidspunkt må altså datamaskinen gå over til å produsere dette selv, for å hindre at vi simpelthen drar ut kontakten. Og det må skje uten at vi blir klar over det, eller kan gjøre noe med det. Jeg tror neppe jeg kommer til å oppleve Skynet i min levealder.

 

I 2009 var forøvrig cirka 20% av verdens befolkning uten tilgang til strøm. Da vet jeg hvor jeg flykter ved en eventuell Robot Uprising.

[ATWindsor]

Anbefaler alle å sjekke ut "Nick Bostrom - (2014) Superintelligence: Paths, Dangers, Strategies.". Han formulerer seg ganske så tørt, men går svært grundig igjennom temaet. (Og er som Wozniak svært skeptisk til hvilke konsekvenser dette vil kunne få for mennesket).

 

Forfatteren ser for seg tre mulige veier til superintelligens:

1. AI / Kunstig intelligens . Vi klarer å lage systemer/roboter som evner å lære av seg selv (litt som et barn), hvilket over tid vil utvikle seg til en intelligens som overgår menneskets.

2. Emulering av hjernen. Vi klarer å kopiere en biologisk menneskehjerne, og gjenskape denne i digital-/maskinform.

3. Nevromorf intelligens. Altså en slags kombinasjon av de to første alternativene.

 

Angående når vi klarer å oppnå "human-level machine intelligence" / superintelligens, så har Bostrom samlet opp data fra noen spørreundersøkelser i tabellen under (der forskere innenfor fagfeltet har blitt spurt når de tror vi vil klare å oppnå superintelligens):

 

Dette er nok noe vi må tenke på, men AI-eksperter har alltid vært for optimistiske med tanke på når det skjer, mange mente det ville skje innen et tiår på 70-tallet også, jeg tror det kommer til å ta lengre tid.

 

AtW

[Daron]

Det mange glemmer/overser er det faktum at den dagen en datamaskin har evnen til å ta over, så er den i stand til å ta over stort sett hele verden på ganske kort tid. En superinteligent selvtenkende maskin er fremdeles tiår frem i tid.. Men innen den tid så er ganske mange av samfunsoppgavene våres erstattet av maskiner.. Sjåfører er nok en av de første arbeidsgruppene vi kan tenke oss blir utfaset, sammen med piloter og kapteiner.. Industriarbeideren er allerede på vei til å bli utfaset, og mange andre grupper følger etter.. Til og med i landbruket er maskinene på vei inn for å erstatte manuell arbeidskraft.. Så hvis den dagen kommer at en maskin bestemmer seg for at det er logisk å bli kvitt oss, eller ta over kontrollen, så kommer det til å skje meget raskt..

[ATWindsor]

Det mange glemmer/overser er det faktum at den dagen en datamaskin har evnen til å ta over, så er den i stand til å ta over stort sett hele verden på ganske kort tid. En superinteligent selvtenkende maskin er fremdeles tiår frem i tid.. Men innen den tid så er ganske mange av samfunsoppgavene våres erstattet av maskiner.. Sjåfører er nok en av de første arbeidsgruppene vi kan tenke oss blir utfaset, sammen med piloter og kapteiner.. Industriarbeideren er allerede på vei til å bli utfaset, og mange andre grupper følger etter.. Til og med i landbruket er maskinene på vei inn for å erstatte manuell arbeidskraft.. Så hvis den dagen kommer at en maskin bestemmer seg for at det er logisk å bli kvitt oss, eller ta over kontrollen, så kommer det til å skje meget raskt..

 

Nå forutsetter du at en maskin kan ta over alt dette da, bare fordi biler kjører seg selv betyr det ikke at en random maskin har mulighet til å kontrollere den remote.

 

AtW

[tommyb]

 

Man kan programmere en enhet til at vi ikke merker forskjellen på en samtale med enheten og en person. 

 

Nei, man vil kjapt merke forskjellen. En datamaskin vil ikke "forstå" visse konsepter intuitivt slik vi mennesker gjør. Det gjelder spesielt språk, som ikke er logiske strukturer. F.eks så vil en datamaskin ikke kunne hanskes med konsepter som overført betydning, sammenligninger, sarkasme, ironi, allegorier, retorikk andre språklige virkemidler. 

 

 

Et program kan programmeres til å gjenkjenne overført betydning, sammenligninger, sarkasme, ironi, allegorier, retorikk og andre språklige virkemidler. På noen typer kan de bli bedre til å gjenkjenne disse enn mennesker. 

 

Et program kan også gjenkjenne løgner. 

 

Ikke tenk på de eksisterende chatterbottene når man snakker om AI. Chatbottene er typisk særdeles enkle og gjør knapt annet indeksering av nøkkelord. Det er ikke det man snakker om når man snakker om AI. 

Endret 25. mars 2015 av tommyb

[Gjest Slettet-Z9Cy2AAy]

Kunstig intelligens bør også settes i sammenheng med tilgang på data.

Mennesker er ganske flinke til å løse problemer når det er lite tilgang på informasjon. Opp til et visst nivå blir vi bedre med mer tilgang på informasjon, men så stopper det opp når det blir for mye. Både fordi vi ikke klarer å ta til oss informasjonen men også fordi større sammenhenger kan bli vanskelig å oppdage når fokuset blir for bredt.

 

Kunstig intelligens trives svært godt med mye data, og dermed vil den over tid sannsynligvis treffe riktige beslutninger oftere og raskere enn det mennesker kan konkurrere med.

 

Tidligere har det vært slik at man har vært "i faresonen" om man hadde en jobb som krevde liten kompetanse. Til det kunne man utdanne seg vekk fra problemet. Hva så når man ikke kan konkurrere med kompetansen?

[Milmo]

 

 

Man kan programmere en enhet til at vi ikke merker forskjellen på en samtale med enheten og en person. 

 

Nei, man vil kjapt merke forskjellen. En datamaskin vil ikke "forstå" visse konsepter intuitivt slik vi mennesker gjør. Det gjelder spesielt språk, som ikke er logiske strukturer. F.eks så vil en datamaskin ikke kunne hanskes med konsepter som overført betydning, sammenligninger, sarkasme, ironi, allegorier, retorikk andre språklige virkemidler. 

 

 

Et program kan programmeres til å gjenkjenne overført betydning, sammenligninger, sarkasme, ironi, allegorier, retorikk og andre språklige virkemidler. På noen typer kan de bli bedre til å gjenkjenne disse enn mennesker. 

 

Et program kan også gjenkjenne løgner. 

 

Ikke tenk på de eksisterende chatterbottene når man snakker om AI. Chatbottene er typisk særdeles enkle og gjør knapt annet indeksering av nøkkelord. Det er ikke det man snakker om når man snakker om AI. 

 

 

Det tror jeg når jeg får se det. En datamaskin er en logisk maskin, men språk krever en langt mer intuitiv forståelse. Det holder ikke bare å lagre en lang liste med velkjente begrep og uttrykk. Vi mennesker lager ofte egne ord og uttrykk på sparket og avhengig av den sosiale situasjonen vi befinner oss i, vil disse ordene ha betydning. 

 

En "løgndetektor" kan forsåvidt fungere da en maskin kan fint foreslå utfall basert på en rekke kvantifiserbare parametre slik som ulike ansiktsuttrykk. Men en AI vil ikke forstå konseptet løgn. Løgn og bedrag vil også utløse hos mennesker en rekke ukjente faktorer basert på et vell av følelser. 

[tommyb]

 

Et program kan programmeres til å gjenkjenne overført betydning, sammenligninger, sarkasme, ironi, allegorier, retorikk og andre språklige virkemidler. På noen typer kan de bli bedre til å gjenkjenne disse enn mennesker. 

 

Et program kan også gjenkjenne løgner. 

 

Ikke tenk på de eksisterende chatterbottene når man snakker om AI. Chatbottene er typisk særdeles enkle og gjør knapt annet indeksering av nøkkelord. Det er ikke det man snakker om når man snakker om AI. 

 

 

Det tror jeg når jeg får se det. En datamaskin er en logisk maskin, men språk krever en langt mer intuitiv forståelse. Det holder ikke bare å lagre en lang liste med velkjente begrep og uttrykk. Vi mennesker lager ofte egne ord og uttrykk på sparket og avhengig av den sosiale situasjonen vi befinner oss i, vil disse ordene ha betydning. 

 

En "løgndetektor" kan forsåvidt fungere da en maskin kan fint foreslå utfall basert på en rekke kvantifiserbare parametre slik som ulike ansiktsuttrykk. Men en AI vil ikke forstå konseptet løgn. Løgn og bedrag vil også utløse hos mennesker en rekke ukjente faktorer basert på et vell av følelser. 

 

 

Du begrenser deg på en måte til at en AI er en maskin. En AI er ikke en maskin. En AI er et sett med menneskeskapte parametre. Konseptet løgn består av slike parametre. En AI trenger i første omgang ikke forstå konseptet løgn for å gjenkjenne konseptet løgn. Det får den fra parametre som beskriver en løgn, og er lagt inn basert på den menneskelige forståelsen. På samme måte som et menneske har tilsvarende parametre programmert inn. Et barn forstår heller ikke et løgn før det får parametre programmert inn. 

 

Likeledes kan en AI programmeres inn med menneskeskapte parametre for å kjenne igjen overført betydning. Språklige virkemidler er alltid basert på kreativt utvalg av teknikker innenfor et forhåndsbestemt utvalg. Hvis dette utvalget er godt analysert av mennesker, brutt ned til identifikatorer av mennesker, og programmert inn av mennesker, trenger strengt tatt ikke et program å være en kunstig intelligens for å gjenkjenne språklige virkemidler. 

 

Og når jeg sier at et program kan programmeres til å kjenne igjen språklige virkemidler, er det ikke fordi jeg synes det høres logisk ut, men fordi jeg vet at det allerede har skjedd. Det samme gjelder å kjenne igjen menneskelige følelser - det har allerede skjedd. Og noen av dem ganske nøyaktig også, sammenlignet med meg.  Det viktigste i utviklingen av bruken av språklige virkemidler er at de som skal programmere det inn er eksperter på menneskelig kommunikasjon, ikke på programmering. 

 

Når man setter sammen alle disse tingene, algoritmer for å kjenne igjen kjente setninger, algoritmer for å kjenne igjen ironi og sarkasme, algoritme for å kjenne igjen løgn og algoritme for å kjenne igjen følelser, algoritme for å kjenne igjen overdrivelser og algoritme for å kjenne igjen fargerikt språk, algoritme for å kjenne igjen fysiske reaksjoner og algoritmer for å kjenne igjen mønster, da har man programvare som i stor grad er i stand til å analysere menneskelig kommunikasjon.

 

Og da har man ikke engang beveget seg ut i det jeg regner som AI, som er mer fuzzy logic med semitilfeldig utvalg av handlinger og reaksjonsmønster. Og heller ikke ut i det som er farlig, der man programmerer inn evne til å prioritere når ikke alle mulige parametre kan oppfylles.  

 

De fleste chatter-bottene som man har prøvd på/fra nettet er imidlertid bare laget for å være små databaser og etterape samtaler. Det er mange nivåer enklere å lage. Man må ikke sammenligne disse lekene med de små fragmentene som forskere ved universitetene jobber med. Enn så lenge så er ikke de forskjellige små tingene satt sammen til en større enhet, men at programvare kan kjenne igjen språklige virkemidler, vel, jeg mener at den milesteinen allerede er passert. Ikke alle enda, men noen av dem, som beviser at resten også er mulig. 

 

Mennesker er uansett ikke annet enn kjemiske/elektriske datamaskiner. 

[millen6112]

Hvis datamaskinene kan ta avgjørelser basert på egen vinning, kan det veldig fort gå galt...