Kommer kunstig intelligens til å utslette menneskeheten?

[ForTheImperium]

Er mye dommedagsprofetier scenarioer nå som KI er i frammasj. Kan vi nesten forvente en ''Terminator'' utfall eller kan det gå motsatt vei?

[The Avatar]

At menneskeheita blir utrydda av KI kan vi nok trygt svare nei på med to strek under svaret.

Den einaste teoretiske måten det kan skje på er dersom alle verdens atomvåpen blir kopla mot KI på ein slik måte at den kunstige intelligensen sjølv kan avgjere at alle atomvåpena skal avfyrast og fordelast på ein slik måte at flest mogleg mennesker blir ramma, og at dette skjer på ein måte utan moglegheit for menneskeleg kontroll.
Det er nok særdeles lite sannsynleg at slike ting blir outsourca til KI då det å råde over eigne militære kapasitetar i mange tilfelle sjølve definisjon på makt. Det er ingen toppleiarar som frivillig vil gi får seg slik makt, enten det er å gi frå seg makta til ein KI eller ved å delegere til andre beslutningstakarar. Ein president, statsminister eller konge vil alltid sikre at dei sjølv skal ha siste ordet før ein går til krig.

I krigssamanheng så vil vi nok få (og til ei viss grad alt har) våpensystem som er heilt eller delvis styrt av KI. Som til dømes automatiserte droner som sjølv søker ut potensielle mål. Her kan vi potensielt få "terminator" liknande tilstandar om eit eller anna går feil, men sjølv om dette kan føre til tap av mange menneskelig så vil det definitivt ikkje være fare for at menneskeheita døyr ut på grunn av slike våpensystem på avvege.

 

Om spørsmålet er om vi kjem til å bli kontrollerte av KI i framtida så er nok det svaret heilt sikkert ja med mindre det blir gjort aktive tiltak for å unngå det.
Mange standariserte bestemmelsar vil nok KI overta sidan det både er raskare og mindre ressurskrevjande. Framtidas byggesøknadar eller lånesøknadar kjem til å bli svart ut umiddelbart av ein KI som på under eit sekund har analysert alle relevante forhold og samanlikna opp mot gjeldande retningslinjer. Dette er rutineprega arbeid som det nok ikkje vil bli brukt eit menneske som må bruke fleirfaldige minutt og timar på å lese gjennom den same informasjonen.
Men sjølv i slike tilfeller så vil nok ikkje KI få fullmakt til gjere så mykje anna enn å følgje ein definert instruks. Meir kompliserte saker som KI ikkje kan sjølv vurdere opp mot fastsatt instruks vil heilt sikkert bli overført til eit menneske.

[Kajac]

ForTheEmperor skrev (1 time siden):

Kan vi nesten forvente en ''Terminator'' utfall

Kort svar: Nei.

Litt lenger svar: Kunstig intelligens finnes ikke pr. i dag. Det vi liker å kalle for AI har ingenting med intelligens å gjøre, den har ingen bevissthet, ingen idé om rett og galt, og ingen reell mulighet til å verken lære eller forstå. Dagens såkalte "AI" er statistikkmaskiner. Verken mer eller mindre. Om vi lar AI ødelegge menneskeheten er det fordi vi tar et aktivt valg om å la AI få gjøre dette.

[Noxhaven]

Kajac skrev (22 timer siden):

Kort svar: Nei.

Litt lenger svar: Kunstig intelligens finnes ikke pr. i dag. Det vi liker å kalle for AI har ingenting med intelligens å gjøre, den har ingen bevissthet, ingen idé om rett og galt, og ingen reell mulighet til å verken lære eller forstå. Dagens såkalte "AI" er statistikkmaskiner. Verken mer eller mindre. Om vi lar AI ødelegge menneskeheten er det fordi vi tar et aktivt valg om å la AI få gjøre dette.

Åpner vi for at AI av typen statistikkmaskiner kan skrive sin egen algoritme/kode og gir det et fundament for hva som er rett og galt, noa alla moralsk matematikk noe det trolig allerede har fått utallig input på via menneskelige erfaringer.. som at liv er å foretrekke over død, helse er å foretrekke over sykdom, behag er å foretrekke over ubehag osv. helt ned til mer omdiskuterte gråsoner som at som oftest så er et nærstående liv som din mor eller sønn å foretrekke over et fremmeds liv, et ungt liv er å foretrekke over et gammelt liv osv. videre alle unntakene fra hovedregelen som at noen ganger så kan død være å foretrekke over en lang utholdelig og uhelbredelig smertefullt liv osv. da har det i grunn verktøyet det trenger for å utføre valg basert på hva som er "rett og galt". Simuleringer kan kjøres i det utallige som den lærer av og som det kan bruke til å endre egen kode for å "forbedre" seg selv etter, eller for å finne den størst mulige sannsynligheten for å ende på et gitt resultat, hva nå enn dette resultatet eller resultatene måtte være så kan ting eskalere rimelig raskt.

Jeg er dog enig med deg og med The Avatar at det er mye som må på plass før vi er der. Noen må åpne for muligheten, noen må slippe det til all informasjon på nettet og noen må gi det tilgang til materialistiske resurser før det begynner å bli en av de klassiske dommedagsscenarioene.

[Crooked Cracker]

Slik jeg ser det har vi kun mer avanserte former for programmert databehandling, ikke intelligens i menneskelig forstand. Vi har ikke engang forstått helt hvordan vår egen bevissthet fungerer, så at vi skal replikere dette og putte det inn i et apparat ser jeg ikke komme med det første. Utfordringen er vel at vårt sinn består av mer enn data, beregninger og nøytrale tanker, vi har også emosjoner, intuisjon, fornemmelser og andre ting som er dannet gjennom våre sanseinntrykk og fortolkninger deretter. Alt dette ligger forankret i nervesystemet vårt og styrer hvordan vi opererer og tenker. Å overføre dette til en maskin tror jeg ikke blir lett, om mulig i det hele tatt. Først må maskinen bli selvbevisst, da må noe 'magisk' skje innad i koden, så må den kunne erfare ting som smerte, omsorg, glede, motivasjon, osv for å kunne forstå vår verden. En kan si at vi egentlig har bare utviklet oss via et organisk maskineri, men her er det en drøss med komplekse faktorer involvert. Så dersom en såkal KI skulle gjøre noen utslettende valg per idag så er den kun verktøyet, ikke beslutningstakeren.

[process]

Jeg er ikke bekymret for AI og utslettelse sånn i første omgang. Der klarer vi oss godt selv 😅 For å programmere ferdige løsninger uten programmeringskunnskap er vi fortsatt et godt stykke unna. All den tid PM ikke klarer å beskrive hva de vil ha til programmerere i dag, og hvordan dette er en iterativ prosess, ser jeg ikke helt at vi kommer dit med det første. 

Det er et par tankekors i forhold til teknologien. En ting er vi trener opp språkmodeller på datasett som i seg selv inneholder bias. Vi "lytter" dermed til de som roper høyest / mest. Mye av datagrunnlaget er ytringer på internett som ikke nødvendigvis er representativt for hvordan vi ønsker at diskursen skal være. 

Et andre er hvordan vi i hypen kan gjøre at vi anvender teknologien feil - det er ikke alt som kan løses med GAN / GAI / LLM, på samme måte som blockchain ikke er løsningen på alles problemer. 

En siste utfordring er hvordan vi vekter modellene - selv om dette er et problem utenfor AI. Automasjon tvinger oss til å ta stilling til avgjørelser som vi ikke aktivt tar i dag.  Dersom en programvare skjønner at en bil skal kræsje i en skolebuss og skal kjøre opp på fortauet, skal den da velge den siden med 2x 60 årige menn eller den 80 år gamle damen. Vilkårlig eksempel, men det er ikke gitt at vi kan rasjonalisere dette på noen fornuftig måte. 

[Gjest MKII]

28 minutes ago, Crooked Cracker said:

........Vi har ikke engang forstått helt hvordan vår egen bevissthet fungerer........

Quote

 

If the human brain were so simple
That we could understand it,
We would be so simple
That we couldn’t.

Emerson M. Pugh *
* Author’s note: Quote from my father around 1938.

 

https://quoteinvestigator.com/2016/03/05/brain/

[VifteKopp]

The Avatar skrev (På 21.8.2023 den 13.16):

At menneskeheita blir utrydda av KI kan vi nok trygt svare nei på med to strek under svaret.

Den einaste teoretiske måten det kan skje på er dersom alle verdens atomvåpen blir kopla mot KI på ein slik måte at den kunstige intelligensen sjølv kan avgjere at alle atomvåpena skal avfyrast og fordelast på ein slik måte at flest mogleg mennesker blir ramma, og at dette skjer på ein måte utan moglegheit for menneskeleg kontroll.
Det er nok særdeles lite sannsynleg at slike ting blir outsourca til KI då det å råde over eigne militære kapasitetar i mange tilfelle sjølve definisjon på makt. Det er ingen toppleiarar som frivillig vil gi får seg slik makt, enten det er å gi frå seg makta til ein KI eller ved å delegere til andre beslutningstakarar. Ein president, statsminister eller konge vil alltid sikre at dei sjølv skal ha siste ordet før ein går til krig.

Nei, den finnes mange teoretiske måter en hypotetisk KI kan utrydde oss på. KI-en trenger ikke tilgang til alle verdens atomvåpen, den trenger kun tilgang til én person som har tilgang til ett atomvåpen og manipulere denne personen til å sende dette atomvåpen mot en fiende med et atomvåpenarsenal, som fører til at denne fienden sender sine atomvåpen tilbake, og vipps så har vi en atomkrig. 

Eller så kan KI-en designe et virus med spredningseffekten til covid og dødeligheten til ebola. Eller bygge millioner av nanoroboter vi ikke kan beskytte oss mot. Eller designe en falsk vaksine som ødelegger fertiliteten til alle kvinner. Et cetera, et cetera. 

Ikke at jeg har noen grunn til å tro at noe av dette vil skje i overskuelig fremtid, men en intelligens som er langt smartere enn oss mennesker har minste like mange måter å utslette oss på som vi har ovenfor arter som er dummere enn oss. 

Endret 22. august 2023 av VifteKopp

[Brother Ursus]

Det er minst tre store problemer med hele AI-debatten.

1) Kunstig intelligens vil ikke være kunstig. Ergo er kunstig intelligens et misnomér fordi det er en betegnelse på et simulert fenomen. Det vi i realiteten vil skape er en ny intelligens. Sansyneligvis organisk, eller dels organisk, eller i det minste basert på organiske, biologiske prinsipper.

2) Teknologisk intelligens er per i dag umulig. Det er ikke et programvare-problem, men et maskinvare-problem. Å forvente at brødristeren din skal bli intelligent bare du parallell-kopler mange nok av dem er mildt sagt tåpelig. En kalkulator, er en kalkulator, er en kalkulator, uansett hvor mye minne eller rask prosessor eller hvor mange algoritmer den benytter. Vi omtaler KI som om bevissthet er en fremvoksende egenskap av å ha nok av noe. Det er det ikke. Dyr med små hjerner er også selvbevisste og følende. Selv om de ikke er spesielt reflekterende.

3) Vi forutsetter at AI vil utslette oss. Men den kan like godt gå stikk motsatt vei.