Kan vi miste kontrollen med den kunstige intelligensen?

[Eirik Helland Urke / TU]

Eirik Newth er gjest i ukens podcast.

Kan vi miste kontrollen med den kunstige intelligensen?

[Stefse]

Tviler ikke på at AI kan skape havoc på internet og mye trøbbel. Men heldigvis lever ikke vi mennesker virtuelle liv. En algoritme kan føkke til alt som e registrert om deg elektronisk, men den kan ikke hindre deg i å gå på jakt eller fiske, hugge ned trær, eller stoppe deg fra å fyre i peisen.

[Ompa Kaiiizer]

Tviler ikke på at AI kan skape havoc på internet og mye trøbbel. Men heldigvis lever ikke vi mennesker virtuelle liv. En algoritme kan føkke til alt som e registrert om deg elektronisk, men den kan ikke hindre deg i å gå på jakt eller fiske, hugge ned trær, eller stoppe deg fra å fyre i peisen.

 

En algoritme i f.eks. en drone kan hindre deg i å leve. Punktum.

[Kajac]

Hvis det er snakk om kunstig intelligens som i Terminator, så nei, det kommer aldri til å skje. Hvis det derimot er snakk om f.eks. en drapsrobot som f.eks. skal analysere farer og utføre handlinger deretter, så ja. Sistnevnte er det heldigvis forholdsvis lett å beskytte seg mot.

[Salvesen.]

Tviler ikke på at AI kan skape havoc på internet og mye trøbbel. Men heldigvis lever ikke vi mennesker virtuelle liv. En algoritme kan føkke til alt som e registrert om deg elektronisk, men den kan ikke hindre deg i å gå på jakt eller fiske, hugge ned trær, eller stoppe deg fra å fyre i peisen.

 

Selvfølgelig, hørt om roboter? 

[Gjest Slettet-t8fn5F]

Tviler ikke på at AI kan skape havoc på internet og mye trøbbel. Men heldigvis lever ikke vi mennesker virtuelle liv. En algoritme kan føkke til alt som e registrert om deg elektronisk, men den kan ikke hindre deg i å gå på jakt eller fiske, hugge ned trær, eller stoppe deg fra å fyre i peisen.

Hvordan skal du få kjøpt utstyret du trenger, når ingen butikker er åpne lenger fordi strømmen er gått?

[serpaul]

 

Tviler ikke på at AI kan skape havoc på internet og mye trøbbel. Men heldigvis lever ikke vi mennesker virtuelle liv. En algoritme kan føkke til alt som e registrert om deg elektronisk, men den kan ikke hindre deg i å gå på jakt eller fiske, hugge ned trær, eller stoppe deg fra å fyre i peisen.

Hvordan skal du få kjøpt utstyret du trenger, når ingen butikker er åpne lenger fordi strømmen er gått?

Han må nok ha utstyret eller lage det selv. Norge kan brødfø omtrent tyve tusen jegere og sankere...

[Aafk1914]

Sci fi forfatter og professor Vernor Vinge skrev i 1993 at innen 30 år vil mennesket lykkes i å skape overmenneskelig intelligens, kort tid deretter vil menneskets tid være over.

Så enkelt kan det i prinsippet oppsummeres.

http://www.aleph.se:80/Trans/Global/Singularity/sing.html

 

Etter å ha fult med utviklingen i KI siden slutten av 90 tallet, har jeg ennå tilgode å lese et overbevisende argument om at overmennesklig intelligens / super intelligens kan utvikles på en trygg måte for menneskeheten.

Anbefaler i så måte å lese Nick Bostrøms "Superintelligens" ...

 

Det pussige er at denne utviklingen har skjedd omtrent uten offentlig diskusjon. Offentligheten er overhodet ikke klar over hva som er i vente, langt mindre hvilke potensielle farer den innebærer og hvor nært forestående dette er.

 

Det er et paradoks at vi bruker store summer på sikkerhetsarbeide og har strenge regelverk på mange av livets områder, samtidig som vi utvikler en teknologi som ingen kan si er sikker, og som potensielt kan gjøre slutt på menneskeheten. Dette uten at knapt noen (m unntak av de 2-4 siste årene) diskuterer om vi kan gjøre noe med dette, evt hvordan utvikle dette på en sikker måte.

(minner om at Oxfords "future of humanity institute" har KI som en top 2-3 trussel mot menneskeheten).

 

Ellers er jeg fullstendig uenig m Newt. Dette er ikke noe vi vil få tid til å omroe oss med og innrette oss til. Denne diskusjonen og advarslene mot KI skulle kommet for 10-15 år siden. Når maskinen begynner å produsere kunnskap, ressonere, etc, vil ting gå så fort at vi neppe har noen sjans til å følge med lenger.

[Sandormen]

Tviler ikke på at AI kan skape havoc på internet og mye trøbbel. Men heldigvis lever ikke vi mennesker virtuelle liv. En algoritme kan føkke til alt som e registrert om deg elektronisk, men den kan ikke hindre deg i å gå på jakt eller fiske, hugge ned trær, eller stoppe deg fra å fyre i peisen.

Det du lister opp, ang. jakt/fiske, osv. osv. Har Staten sørget for å sette så store begrensninger for, uten bruk av algoritmer, allerede... ?

[Aafk1914]

Et forvarsel om hva som er på vei kan man jo få ved å se på gogles ai program afpha0 som knuste verdens beste sjakkprogram stockfish 28-0 (m 72 remis) i desember i 2017.

Alpha0 hadde da lært seg å spille sjakk fra grunnen av, uten mennesklig innblanding, kun ved å ha blitt gitt reglene og å spille mot seg selv. Og dette med en læretid på 4 timer !

På denne tiden så overgår programmet alt av mennesklig (og forsåvidt maskinelt) ervervet kunnskap samlet opp iløpet av flere hundre år.

Programmet spiller som det har en meget subtil, dyp og detaljert forståelse av spillet.

 

Det skal ikke så mye fantasi til for å man kan overføre dette til andre områder. F,eks om programmet blir gitt et sett av regler, f.eks. innenfor et fagfelt, og se hvilke sammenhenger og størrelser det kan utlede.

 

Poenget er at dette går med en hastigheit som er så dramatisk mye kortere fra hva vi mennesker bruker på å samle og erverve kunnskap.

 

Når man da ettervert får superintelligens, så kan man trolig vente seg dramatiske endringer bare iløpet av få dager. dvs vi vil ha minimal sjanse til å forstå, langt mindre regulere og kontrollere hva som foregår.

 

Spørsmålet er, hvordan skal menneskeheten kunne kontrollere noe som meget raskt (kanskje i løpet av dager) vil bli mange millioner ganger så intelligent som oss, som kan tenke i ring rundt oss, legge uendelige mye lengre tankerekker en oss, etc.

Jeg tror ikke det er mulig.

[Tresfjording]

Nå er det slik at jeg har liten tro på at menneskets hjerne er det ypperste dette universet kan frembringe av intelligens. Jeg er redd vi blir så grundig frakjørt i det teknologibaserte racet inn i fremtiden, av vi ikke engang aner at vi er forbikjørt av våre egne oppfinnelser. Spørsmålet er ikke kommet om AI for å bli, for det er det. Det handler vel mer om AI og/eller mennesket overlever overgangen.

[linux-fan]

Et forvarsel om hva som er på vei kan man jo få ved å se på gogles ai program afpha0 som knuste verdens beste sjakkprogram stockfish 28-0 (m 72 remis) i desember i 2017.

Alpha0 hadde da lært seg å spille sjakk fra grunnen av, uten mennesklig innblanding, kun ved å ha blitt gitt reglene og å spille mot seg selv. Og dette med en læretid på 4 timer !

Her spilte vist Stockfish uten info åpningsspill, som Stoclfish normalt vil bruke, så noen mener resultatet viser feil styrkforhold.

[Aafk1914]

 

Et forvarsel om hva som er på vei kan man jo få ved å se på gogles ai program afpha0 som knuste verdens beste sjakkprogram stockfish 28-0 (m 72 remis) i desember i 2017.

Alpha0 hadde da lært seg å spille sjakk fra grunnen av, uten mennesklig innblanding, kun ved å ha blitt gitt reglene og å spille mot seg selv. Og dette med en læretid på 4 timer !

Her spilte vist Stockfish uten info åpningsspill, som Stoclfish normalt vil bruke, så noen mener resultatet viser feil styrkforhold.

 

mulig det, men såvidt jeg har forstått så er de fleste sjakkeksperter enige om at vi har fått sett noe helt nytt. Ellers så ble vel stockfish i flere av de frigitte partiene også utspilt i mellom og sluttspillet. Det store poenget er imidlertid tiden alpha0 bruker på å lære seg dette. Flere hundre år med mennesklig møysommelig oppsamlet kunnskap og forståelse, overgått på få timer. Når denne teknologien settes inn på andre områder, så burde vi kunne forvente noe lignende - veldig rask kunnskap og teknologiutvikling som er så rask at det blir vanskelig for mennesket å følge med på.

For å dra en analogi, hvordan hadde det vært tidlig på 1900 tallet om 100 år med kunnskap og teknologiutvikling ble tilgjengelig på noen få uker.

[Trestein]

Det som er skummelt er at inteligens for å forstå at jorden hadde vert en bedre plass om befolkningen var 10% av dagens, sansynligvis kommer raskt.