5 spørsmål om kunstig intelligens

[Kalle K]

Det de her kaller sterk og svak AI kalles andre steder for spesialisert og generalisert AI, det siste gir for meg mere mening.

 

Vi mennesker er et godt eksempel på generalisert AI, vi har et svært brett spekter av evner for å kunne håndtere svært forskjellige og uforberedte oppgaver.

 

Spesialisert AI derimot er god på det den er laget for (kreft diagnostisering, bilkjøring, lagerstyring optimalisering av undervisning  eller hva det nå måtte være) og har ingen ting å komme med utenfor sitt felt. Til gjengjeld vil den være potensielt mye bedre enn oss og garantert mye raskere og oppdatert(hvilken lege kan hevde å lese 100% av publikasjonene innen sitt felt, for AI er ikke det spesielt uoverkommelig)

 

Generalisert AI tror jeg nok ligger noe frem i tid. Men det er den enorme utviklingen i spesialisert AI som i et stadig høyere tempo inntar stadig flere områder som kommer til å endre verden raskt og stadig raskere de kommende tiårene.

[Aafk1914]

Det er forbausende at så få ser ut til å bry seg særlig med farene ved utvikling av overmennesklig intelligens, eller strong AI.

 

Generelt i samfunnet har vi de strengeste reguleringer, og bruker milliarder av kroner på sikkerhet, regler, byråkrati for den minste ting for å redusere risikoen for å redde et liv. Samtidig går utviklingen av en teknologi som potensielt kan være en trussel for menneskeheten nesten helt uten diskusjon, og har knappest, om noen reguleringer i det hele.

 

Etter å ha følgt med i uviklingen i 18 år har jeg ennå til gode å se et overbevisende argument om at superintelligens kan utvikles på en trygg måte.

 

At flere forskere ikke advarte om farene ved ny teknologi (spesielt KI/AI) tidlig på 2000 tallet, vil fort bli historiens største unlatelsessynd (iallefall i menneskets historie)

[xibriz]

Kan man forutse resultatet av AI?

Hvordan er det å debugge?

 

Eller blir det litt som at maskinen ikke har bugs men "tar feil" i enkelte avgjørelser?