Musk: – Smarte folk som ikke tror AI blir smartere enn dem, er veldig mye dummere enn de tror

[MortenL]

En ensporet AI er nok mye farligere enn flersporet. Og en fullstendig AI vil antakelig bli gal og stenge seg selv ned.

[hekomo]

Maabren skrev (15 timer siden):

Er det ikkje mulig å tilby musken nokre iq-brikker slik at han kan bli smartere under topplokket? AI eller general AI er bare kode og hardware, dvs kan den aldri bli smartere enn mennesker. Først når man greier å utvikle superintelligens ved hjelp av naturens eget byggesett kan man muligens vurdere det dit hen at vi er fucked. Før den tid har vi mest sannsynlig kødda oss godt vekk på å bli avhengige av AI til alt av tyngre hjernetrim samt til å la AI ta seg av 97% av jobbane. Blir neppe moro når neste større naturlige katastrofe inntreffer og sender oss tilbake til "steinalderen".

Og hva er menneskets hjerne?

[Stvgr]

De aller smarteste er gjerne forsiktige med å uttale seg skråsikkert om spørsmål hvor det råder stor usikkerhet. De er ydmyke nok til å anerkjenne at de ikke har fasiten på alt. I motsetning til Musk.

Endret 27. juli 2020 av hhstrand

[hekomo]

hhstrand skrev (2 timer siden):

De aller smarteste er gjerne forsiktige med å uttale seg skråsikkert om spørsmål hvor det råder stor usikkerhet. De er ydmyke nok til å anerkjenne at de ikke har fasiten på alt. I motsetning til Musk.

Ja, han kan jo ikke være så smart som har bygget opp flere suksessrike selskaper, leder overgangen bort fra fossilt drivstoff og har fått verdens største bilprodusenter til å desperat haste etter ham, og driver og sender astronauter opp i verdesrommet med gjenbrukbare raketter.

[Stvgr]

hekomo skrev (16 minutter siden):

Ja, han kan jo ikke være så smart som har bygget opp flere suksessrike selskaper, leder overgangen bort fra fossilt drivstoff og har fått verdens største bilprodusenter til å desperat haste etter ham, og driver og sender astronauter opp i verdesrommet med gjenbrukbare raketter.

Musk er utvilsomt en dyktig entreprenør og en smart fyr, men han har ikke svaret på alt, selv om han liker å gi inntrykk av det.

For eksempel hevdet han at de som bekymret seg for coronaviruset var dumme, og at viruset ville være borte fra USA innen utgangen av april.

Som alle oss andre har han tatt feil før og kommer til å ta feil igjen. Dessverre har han en lei tendens til å uttale seg med stor bravur om temaer han ikke har spesielt mye peiling på. Som pandemier, og kunstig intelligens.

[tommyb]

Jeg tilhører de som ofte tar feil, men når det gjelder Musk så må man ta høyde for at man faktisk vet mer om AI enn gjennomsnittspersonen. For det første er det et av hans interesseområder, og vi vet alle mer enn gjennomsnittlig om de tingene vi interesserer oss for. I tillegg er det sånn at han i form av investor faktisk har vært i samtaler med en rekke firma som jobber nettopp med AI. Det betyr ikke at han vet like mye som en som jobber med det, men det betyr at han har en viss innsikt i hva det jobbes med og hvordan status er, mer enn den typiske forumbrukeren (som for eksempel meg). 

Som tech-investor er AI spesielt interessant for tiden, også enklere versjoner for selvkjørende biler, så jeg nekter å tro at han ikke har ganske god peiling på det området. 

Endret 27. juli 2020 av tommyb
dårlig norsk

[Halvor Sølvberg- the MOV]

tommyb skrev (3 timer siden):

Jeg tilhører de som ofte tar feil, men når det gjelder Musk så må man ta høyde for at man faktisk vet mer om AI enn gjennomsnittspersonen. For det første er det et av hans interesseområder, og vi vet alle mer enn gjennomsnittlig om de tingene vi interesserer oss for. I tillegg er det sånn at han i form av investor faktisk har vært i samtaler med en rekke firma som jobber nettopp med AI. Det betyr ikke at han vet like mye som en som jobber med det, men det betyr at han har en viss innsikt i hva det jobbes med og hvordan status er, mer enn den typiske forumbrukeren (som for eksempel meg). 

Som tech-investor er AI spesielt interessant for tiden, også enklere versjoner for selvkjørende biler, så jeg nekter å tro at han ikke har ganske god peiling på det området. 

Kor mykje midler er brukt på en begrenset utgave «AI» hva angår selvkjørendes biler, jo kansje i størrelsesorden NOK 100 000 000 000 000,-. Kan man si norge er på banen, Nei, defenitivt ikke.

Og ja, det skalerer greit når det først er på plass, som softweare ellers.

 

Er Musk innhabil (og kan ha rett), Ja så absolutt.

Og hva som gir best evne til å forstå AI av å analysere årsberetninger eller røyke hasj er vel hips om happ, og ingen av delene har du lov til å nyte når Du kjører bil.

Endret 27. juli 2020 av Halvor Sølvberg- the MOV

[Maabren]

4 hours ago, hekomo said:

Ja, han kan jo ikke være så smart som har bygget opp flere suksessrike selskaper, leder overgangen bort fra fossilt drivstoff og har fått verdens største bilprodusenter til å desperat haste etter ham, og driver og sender astronauter opp i verdesrommet med gjenbrukbare raketter.

Musken sine mange uttalelser tilseier at det er di som jobber for han som er smarte. Det einaste smarte eg finner om musken er at han har vore heldig med kjøp av selskap og framsatt visjoner som arbeidere har prøvd å oppfylle. Når det kommer til AI og muskens forståelse av den minner det litt om muskens forståelse av autopilot systemet i tesla. Barnslig oppspinn.

[Maabren]

20 hours ago, hekomo said:

Og hva er menneskets hjerne?

Neppe kodet viss det var det du ville hevde.

[Maabren]

23 hours ago, tommyb said:

Mennesker er bare kode og hardware. Fordelen til AI er at man enklere kan debugge koden og forbedre hardwaren. Jeg kan ikke se noen teoretisk begrensning på at menneskeskapt AI ikke kan bli smartere enn mennesker. Menneskeskapte kalkulatorer er allerede mye bedre enn mennesker innenfor et område man bruker til å definere mennesket som smartere enn andre livsformer.

Der tek du veldig feil. Menneskets hjerne er ikkje kodet. Det er og ein av hovedgrunnane til at AI aldri vil overgå mennesket på meir enn spesialiserte og tilrettelagte områder. Først når du innser kor fleksibel og kompleks hjernen til mennesket er vil du skjønne at algoritmer aldri kan ta seg opp på et slikt nivå. Men som hjelpesystem kan AI fint overgå mennesket evner for spesialiserte og definerte oppgaver som rekning osv.

[Halvor Sølvberg- the MOV]

Maabren skrev (4 timer siden):

Neppe kodet viss det var det du ville hevde.

De nærmeste en kommer koding av menneskehjernen er vel relegion og påfølgende tungetale (kan minne litt om personer som har gått noen døgn på amfetamin). I PC værden heiter det vel «malvere»

Endret 27. juli 2020 av Halvor Sølvberg- the MOV

[tommyb]

2 hours ago, Maabren said:

Der tek du veldig feil. Menneskets hjerne er ikkje kodet. Det er og ein av hovedgrunnane til at AI aldri vil overgå mennesket på meir enn spesialiserte og tilrettelagte områder. Først når du innser kor fleksibel og kompleks hjernen til mennesket er vil du skjønne at algoritmer aldri kan ta seg opp på et slikt nivå. 

Joda. Menneskets hjerne er kode - etter minst to definisjoner. Først og fremst er den skapt av DNA, som er kode. Deretter er den programmert og reprogrammert underveis. Så fortsatt enig med meg selv, på tross av at du sa jeg tok feil. Kanskje ikke så overraskende siden du ikke kom med en begrunnelse på hvorfor jeg tar feil. 

Utgangspunktet var at du sa at AI ikke kan bli smartere enn mennesker, og jeg sa at jeg ikke ser noen teoretisk begrensning på dette. Ditt argument er nå at at hjernen er kompleks og fleksibel. Det er helt riktig. Men det gir ingen teoretisk begrensning, derimot gir det en teoretisk grenseverdi som du neppe mente å innføre. Det motsatte av en begrensning. Gitt det er sammenheng mellom argumentet og bruken din av det for å avvise "smartere" AI, vil AI kunne bli smartere enn mennesker ved første forbedring etter man har laget et like kompleks og fleksibelt system. 

Så da sier jeg du tar feil, og jeg begrunnet det. Har likevel ingen forventning om at jeg skal forandre ditt syn. 

For nei, jeg tror naturligvis ikke du kommer til å endre mening her. Det ville vært uventet om du kom til å akseptere din egen "bevisførsel" som bevis når den snus i motsatt retning og brukes mot deg - det er åpenbart at man kan ikke måle "smartest" på "kompleksitet og fleksibilitet". Menneskehjernen er som mye annet skapt over tid gjennom tilfeldige variasjoner, og er ikke den mest mulig effektive mulige variasjonen. Den inneholder feil og workarounds, og den inneholder mye funksjonalitet som ikke er relevant for AI, siden den også styrer noen ekstra lemmer og organer og sånt. AI kan derfor være mye mindre kompleks og likevel vært smartere. Eller forsåvidt mer kompleks og fortsatt ubrukelig. 

Det vi ser her er at hele diskusjonen er meningsløs med mindre man bruker en kvantifiserbar/målbar definisjon på hva "smartere" betyr. Mange av punktene man drar fram når man skal definere mennesket som mer intelligent enn andre livsformer, eller et menneske som smartere enn andre mennesker, er punkter som datamaskiner gjør raskere, bedre, mer nøyaktig og på større datagrunnlag enn mennesker. Datasystemer er raskere til å regne, mer nøyaktig til å måle, bedre på å søke gjennom store informasjonsmengder. De har mye bedre potensiale på IQ-tester, siden disse er basert på å kjenne igjen utfordringer og mønster. De kan finne ukjente sammenhenger og mønster i enorme datagrunnlag som mennesker ikke har evne til. De er bedre til å kjenne igjen mennesker eller identifisere sykdomssymptomer fra et fotografi, og de er bedre på å identifisere trusler og iverksette tiltak enten vi snakker om nettverkstrafikk, aksjemarked eller sykdomsutbrudd. De kan lære og selv velge ut hvilke nye sammenhenger som skal testes i datasett med ustrukturerte data, og når de gjør det er de mye raskere og mer nøyaktig enn mennesker.  Så det trengs en god definisjon på når et system kan regnes som smartere enn et menneske, vi må måle etter samme skala. 

Inntil vi finner en felles skala for hva "smartere" betyr blir vi neppe enige om AI kan bli smartere enn menneskehjernen. Men det jeg synes mangler i innleggene mellom oss er hvorfor du mener AI ikke kan bli smartere. Mener du at det ikke er mulig å oppnå samme kompleksitet? At det ikke er mulig å oppnå samme fleksibilitet? Er det at den er for kompleks til å forstås og at det ikke er mulig å lage et system som også er for kompleks til å forstås? For egentlig framsto det først som du mente at det ikke var mulig å skape noe som er smartere enn seg selv, og det var neppe det du mente? 

Endret 27. juli 2020 av tommyb
C&P minus C = duplikattekst

[3FKY9EYR]

Enig, det er ikke alt Elon har peiling på. Tror det er et stykke frem til at vi tildeler Nobelpris i fysikk, biologi eller medisin til et dataprogram. Å lande en rakett på bakken eller et skip er derimot noe programmer egner seg godt til.

[Halvor Sølvberg- the MOV]

3FKY9EYR skrev (33 minutter siden):

Enig, det er ikke alt Elon har peiling på. Tror det er et stykke frem til at vi tildeler Nobelpris i fysikk, biologi eller medisin til et dataprogram. Å lande en rakett på bakken eller et skip er derimot noe programmer egner seg godt til.

Hvem ville Du gitt Nobelpris til om bare Deise var nominert ; KrF, ISIL, Zero eller katolikkene ?

Endret 27. juli 2020 av Halvor Sølvberg- the MOV

[BjartmarO]

On 7/25/2020 at 4:02 PM, Tåkefyrste said:

Det verste er jo at det er ingen måte for oss å vite om dette er sant eller ikke. Det er iallefall mer sannsynlig enn at en allmektig gud skapte oss alle

Jeg vil si at det ligger på omtrent samme sannynlighetsnivå.

[hekomo]

hhstrand skrev (På 27.7.2020 den 11.05):

Musk er utvilsomt en dyktig entreprenør og en smart fyr, men han har ikke svaret på alt, selv om han liker å gi inntrykk av det.

For eksempel hevdet han at de som bekymret seg for coronaviruset var dumme, og at viruset ville være borte fra USA innen utgangen av april.

Som alle oss andre har han tatt feil før og kommer til å ta feil igjen. Dessverre har han en lei tendens til å uttale seg med stor bravur om temaer han ikke har spesielt mye peiling på. Som pandemier, og kunstig intelligens.

Han har ikke svaret på alt, men han har gjerne svar på ting han driver bedrift med.

Han driver ikke med virus kommersielt. Dog er visst Tesla nå involvert i noe vaksineproduksjon eller lignende.

Kunstig intelligens driver han med, så det har han nok peiling på.

[hekomo]

Maabren skrev (På 27.7.2020 den 15.29):

Musken sine mange uttalelser tilseier at det er di som jobber for han som er smarte. Det einaste smarte eg finner om musken er at han har vore heldig med kjøp av selskap og framsatt visjoner som arbeidere har prøvd å oppfylle. Når det kommer til AI og muskens forståelse av den minner det litt om muskens forståelse av autopilot systemet i tesla. Barnslig oppspinn.

Heldig med kjøp av selskap? Han startet selv SpaceX med blant annet visjonen om å sende gjenbrukbare raketter opp i rommet, noe han nå har gjennomført (og som Jeff Bezos ikke har klart, til tross for at han har mer penger og har holdt på lenger enn Musk). Han tok over Tesla da selskapet var ingensteds på vei, og avgjorde strategien videre. En strategi som har gjort Tesla til verdens mest verdifulle bilprodusent.

Selvsagt ansetter han folk som sitter med spisskompetanse på ulike områder og som hjelper med å gjøre visjonene og planene til virkelighet, men ingenting av dette hadde skjedd uten at Musk hadde hatt en forståelse for områdene han driver med. Hadde han ikke hatt det hadde han jo ikke visst hvem han skulle ansette for å få ting til å skje.

Forståelse av Autopilot-systemet i Tesla? Hva er det du snakker om? Autopilot er laget av Tesla selv. Musk har selvsagt dyp innsikt i hvordan systemet fungerer.

Hvis du i fullt alvor tror at visjoner og ledere ikke har noe å si så har jeg en bro jeg tror du kunne være interessert i å kjøpe...

Maabren skrev (På 27.7.2020 den 15.37):

Neppe kodet viss det var det du ville hevde.

Hjernen er hardware og software. Hjernemasse og elektriske impulser som går gjennom systemet. Du snakker som om hjernen er noe overnaturlig.

[tommyb]

Mye av det som tar deg dit Musk eller Bezos er - toppen på næringslivsaktører i vekst - er evnen til å velge ut eksperter og vite når du skal lytte til dem. Musk og Bezos har forretningsinteresse og sannsynligvis også personlig interesse i AI. De vet mer derfor mer om AI enn folk flest, men mindre enn sine rådgivere. Dette er bare sånn det er. Men kunnskap og forståelse er ikke det samme, så det betyr at folk i disse rollene kan ta feil. Den type AI som Musk er redd for, er kanskje ikke en retning AI som noen er (kommersielt eller akademisk) interessert i å utvikle. Eller kanskje det er nettopp det han har sett andre gründere forsøke få ham ombord på. 

Jeg kan også ta feil på mye og mangt, men å ha ydmykhet i forhold til folk med mer personlig eller faglig interesse, bedre rådgivere og kontaktnett enn meg, er ikke feil. Det er heller ikke feil for andre forumbrukere heller. 

Endret 31. juli 2020 av tommyb