AI, kunstig intelligens

[Pop]

Får håpe det kommer AI-verktøy spesialisert for jus da, for dagens ChatGPT og Google Gemini f.eks. klarer i jobben min ikke få en eneste referanse til riktig lov og paragraf riktig. De er noenlunde på rett kurs når jeg ber om en generell betraktning, men å få referanser, fortelle hvor eksakt i lovteksten de henter bakgrunnsinfo (tidligere saker og kjennelser) behandlingsgrunnlag, rettsprinsipper osv, så er svarene helt katastrofe.

[lada1]

23 hours ago, Pop said:

Får håpe det kommer AI-verktøy spesialisert for jus da, for dagens ChatGPT og Google Gemini f.eks. klarer i jobben min ikke få en eneste referanse til riktig lov og paragraf riktig. De er noenlunde på rett kurs når jeg ber om en generell betraktning, men å få referanser, fortelle hvor eksakt i lovteksten de henter bakgrunnsinfo (tidligere saker og kjennelser) behandlingsgrunnlag, rettsprinsipper osv, så er svarene helt katastrofe.

Skal man ha (bl.a. økonomisk) nytte av dagens tilgjengelige AI-verktøy så må en prøve å utnytte det på en smart måte. Det er jo ingen sak å "drite det ut". En kan også bruke kuleramme til å gjøre dumme ting og slik bevise at kuleramme er unyttig verktøy🙂

Endret 22. juni av lada1

[Pop]

5 hours ago, lada1 said:

Skal man ha (bl.a. økonomisk) nytte av dagens tilgjengelige AI-verktøy så må en prøve å utnytte det på en smart måte. Det er jo ingen sak å "drite det ut". En kan også bruke kuleramme til å gjøre dumme ting og slik bevise at kuleramme er unyttig verktøy🙂

Men jeg har ikke hørt kulerammen si "det kan jeg ja".

[Camlon]

On 21.6.2024 at 11:30 AM, Pop said:

Får håpe det kommer AI-verktøy spesialisert for jus da, for dagens ChatGPT og Google Gemini f.eks. klarer i jobben min ikke få en eneste referanse til riktig lov og paragraf riktig. De er noenlunde på rett kurs når jeg ber om en generell betraktning, men å få referanser, fortelle hvor eksakt i lovteksten de henter bakgrunnsinfo (tidligere saker og kjennelser) behandlingsgrunnlag, rettsprinsipper osv, så er svarene helt katastrofe.

Det ville trolig komme spesialiserte AI-verktøy for jus, men ikke nå. Det er ikke fordi jeg tror det er teknisk umulig, men det er mye jobb for noe som trolig ikke vil bli brukt av advokater på grunn av risiko for feil og sikkerhet.

Det første vi vil trolig se er AI-verktøy som kan brukes til markedsføring og kundeservice. Mange firmaer har allerede chattebotter, men de er elendige. Om de kan få integrert en chattebot som bruker GPT4 og som er trent på firmaets dokumentasjon, så er behovet for personlig service langt mindre.

Endret 23. juni av Camlon

[Brother Ursus]

AI er et verktøy.

Mennesker tillegger som vanlig andre (foreløpig fiktive) livsformer sine egne kvaliteter.

AI vil aldri ha noen uavhengig motivasjon.

[lada1]

14 hours ago, Camlon said:

Det ville trolig komme spesialiserte AI-verktøy for jus, men ikke nå. Det er ikke fordi jeg tror det er teknisk umulig, men det er mye jobb for noe som trolig ikke vil bli brukt av advokater på grunn av risiko for feil og sikkerhet.

Jeg mener at AI-verktøy kan være nyttig (og spare en for masse penger og tid) lenge før det er "perfekt".  Man skal jo ikke ha "tillit" til eller "tro" på verktøyet. Selv med en feilprosent på 90 prosent, så kan det være nyttig. Jeg bruker det ofte som korrektur-leser, og ChatGPT eller Gemini kommer kanskje med feil og tull over 50 prosent av gangene, men det er likevel nyttig verktøy. Jeg bruker det også til å komme med forslag til enkle script og kompliserte computer-kommandoer. Slik kan en ofte spare tid - men ikke alltid 🙂

[Pop]

Så langt har jeg likt relativt godt de ulike språkmodellene, når jeg tar i betraktning ren forventning og ikke personlige ønsker. Jeg kunne ønske meg en AI-modell jeg kunne spurte om alt knyttet til jobben, men har innsett for lengst at det er en del år frem i tid, om noen gang. Med en realistisk forventning bruker jeg nå verktøyene med de begrensningene det har. F.eks. om jeg har en punktliste med fakta som jeg ønsker skal være grunnlaget for beslutninger i en anskaffelse, en design og egenutvikling, oppgraderinger eller hva det måtte være, så får f.eks. ChatGPT lista med beskjed om å gjøre den opp til en enkel lesbar tekst. Eventuelt motsatt, om jeg har skrevet noe i full tekst tidligere, men kun ønsker en oppsummering for et nytt prosjekt, ber jeg ChatGPT om å lage punktliste av de viktigste poengene i teksten, eller om å gradere viktigheten for den saks skyld (f.eks. MÅ-krav og Kjekt-å-ha-krav). Der er den ganske flink, og det trengs kun små justeringer etterpå.

Den er også flink å tilpasse til ulike premisser, om jeg ber den tilpasse teksten til en faggruppe eller til en styringsgruppe/referansegruppe/brukerutvalg, til økonomileder osv. 

Så lenge man ikke tror disse tjenestene er orakler, får man dem til å funke bra faktisk.

[Comma Chameleon]

Brother Ursus skrev (8 timer siden):

AI vil aldri ha noen uavhengig motivasjon.

Enig i det første du skriver, men akkurat det her vet vi jo ikke. Det er ingenting i veien, i teorien, for at vi kan lage AI som blir selvbevisst og uavhengig i samme grad som andre bevisste dyr inkludert mennesker. Det er ikke noe kategorisk spesielt med oss.

Det er dog ekstremt vanskelig og jeg støtter at det absolutt er en mulighet for at vi ikke får det til. Men gitt nok tid tror jeg vi kommer dit.

Skal sies at man også møter på noen definisjonsproblemer underveis. Vi er jo ikke engang helt sikre på hvor mye fri vilje vi selv har.

[lada1]

13 hours ago, Comma Chameleon said:

Det er ingenting i veien, i teorien, for at vi kan lage AI som blir selvbevisst og uavhengig i samme grad som andre bevisste dyr inkludert mennesker. Det er ikke noe kategorisk spesielt med oss.

Dette vet vi vel ikke. Og med "oss" mener du vel ikke bare mennesker men ganske mange dyrearter?

[Comma Chameleon]

lada1 skrev (11 minutter siden):

Dette vet vi vel ikke. Og med "oss" mener du vel ikke bare mennesker men ganske mange dyrearter?

Vi vet jo ikke hvor langt teknologien kommer nei, derfor jeg sier i teorien. Fullt mulig vi mennesker dør ut før vi kommer så langt. Jeg mener bare det at vi mennesker er bare litt biologi, fysikk og kjemi. Det er ikke noe magisk med verken oss mennesker eller dyr. Det er ingenting som i teorien stopper oss fra å lage et en digital bevissthet. Mulig vi møter på en sperre i framtiden, men hvis vi kunne simulert en hjerne så er vi stort sett i mål.

Siden bevissthet også virker å være et spektrum og ikke binært så er det også vanskelig å vite når vi er i mål.

Endret 24. juni av Comma Chameleon

[lada1]

7 hours ago, Comma Chameleon said:

Jeg mener bare det at vi mennesker er bare litt biologi, fysikk og kjemi. Det er ikke noe magisk med verken oss mennesker eller dyr. Det er ingenting som i teorien stopper oss fra å lage et en digital bevissthet. Mulig vi møter på en sperre i framtiden, men hvis vi kunne simulert en hjerne så er vi stort sett i mål.

Hvilket teori sikter du til her? Eller kanskje du med uttrykket "i teorien" mener "kan tenkes" eller noe slikt?

Jeg for min del tillater meg å påstå at vi ikke vet om mennesket (og andre aktuell levende vesener) bare er "litt biologi, fysikk og kjemi". Dersom vår verden er noe som kan kalles simulert så kan en kanskje si at vi "bare en samling bits". Det kan lett bli som å si at Jon Fosse sine bøker bare er en samling bokstaver og tegn 🙂

Det kan jo tenkes at vi ikke enda forstår visse sider av vår verden. Jeg kan ikke på noen måte forstå at det kommer opplevelser ut av prosessering av informasjon + interaksjon med omverdenen ("åpne systemer") eller noen slags kjemiske/fysiske prosesser. Jeg melder pass. Jeg bare føler meg som en idiot i den sammenheng 🙂

Og dersom en kan si at en har skapt et "bevisst vesen" basert på prosessering av informasjon, så kommer spørsmålet om dette er relevant for oss på noen slags måte. Vi har jo ofte behandlet dyr som om de var maskiner og ikke følsomme vesener. Og også motsatt: vi tillegger gjerne ting og tang menneskelige følelser uten at dette egentlig er rimelig. Hunder, for eksempel, blir vel ofte tillagt menneskelige trekk fordi de har tilegnet seg evnen å imitere mennesker og har et kroppsspråk som vi liksom kjenner igjen. Og nå tilegner vi gjerne ChatGPT menneskelige trekk 🙂   

Forresten: jeg lurer på om bilen min er litt menneskelig av seg fordi den ikke alltid fungerer som den bør. Mye rart under panseret der. Og så er den netta. Noen ganger ser jeg på den som en "antenne" som vibrerer med Den Store Ånd 🙂  Slik ser jeg på bilen min: 

https://viaplay.no/store/biler-2006

Endret 25. juni av lada1

[frohmage]

lada1 skrev (9 timer siden):

Jeg for min del tillater meg å påstå at vi ikke vet om mennesket (og andre aktuell levende vesener) bare er "litt biologi, fysikk og kjemi".

Jeg er litt enig i det. Vi er vel for eksempel født med preferanser, både innen smak (mat og drikke), estetikk og seksualitet. Vi kan tildele dette til AI også, men blir det det samme?

[VifteKopp]

Hvis en maskin ble bevisst ville vi aldri kunne vite det, da det ikke finnes noen bevissthetsdetektor.

Jeg vet ikke en gang om hunden min har bevissthet.

[Comma Chameleon]

lada1 skrev (10 timer siden):

Hvilket teori sikter du til her? Eller kanskje du med uttrykket "i teorien" mener "kan tenkes" eller noe slikt?

I teorien betyr at vi ikke har møtt på noe som tilsier at vi ikke kan gjøre det, men at det ikke har blitt gjort i praksis enda. Det er mange andre ting som er teoretisk umulig, men å skape en bevisst AI er ikke umulig basert på det vi vet nå.

Som jeg har nevnt og som VifteKopp også nevner så er det ekstremt vanskelig å beskrive hva bevissthet er. Nettopp fordi det er et spektrum og ikke binært. Når oppstår f.eks. bevisstheten i et barn? Vanskelig å si. Vi vet at det tar noen måneder før de blir selv-bevisst, men de har jo en bevissthet før det selv om den er svært begrenset og mindre enn en hund.

Det er for meg ganske stor sjanse for at vi kommer til å lage en AI som går under en viss grad av bevissthet. Om den kommer til å overgå mennesker eller ikke er det vanskelige både å vite og å måle. Og da snakker jeg ikke om antropomorfisme, regner med de eksemplene rundt ChatGPT og bilen er humoristisk ment. Er vel ingen som tror noen av disse er bevisste.

[Ørjanø]

Synes AI er skremmende. Tror ikke vi klarer å holde det under kontroll over tid og den vil tilegne sengen intelligens vi ikke forstår engang. Mange mener det allerede er ute av kontroll. 

Hva når den tid kommer hvor AI "kalkulerer" seg frem til at mennesker er den største trusselen på kloden og mot kloden? 

Sikkert gøy, spennende og uskyldig  nå i starten. Men det er så hinsidig mye som kan gå galt med AI. Ikke annet enn skremmende og burde stoppes helt, selv om det kanskje er for sent. 

[Comma Chameleon]

Det er forståelig at det kan virke skummelt i framtiden, men per nå så er det mest nyttig som et automatiseringsverktøy som fortsatt må utvikles, driftes og kontrolleres av mennesker.

Ørjanø skrev (21 minutter siden):

Mange mener det allerede er ute av kontroll

Det eneste som kan havne "ut av kontroll" nå er at alle bruker AI til å generere søppel som da forsøpler internettet. De ulike AI-modellene vi har nå er ikke i stand til å gjøre noe selv. Det er litt som når noen lagde det første verktøyet for å sende spam-epost.

Om du er redd for AI så kan du trøste deg med at dagens AI er stokk dum og ikke er en trussel i seg selv. Selv onde statsmakter med AI klarer ikke gjøre så mye mer enn å bruke det i troll-fabrikkene sine.

Mulig vi kommer til det punktet hvor AI er en selvstendig trussel, men det kan være 2 eller 500 år unna. Det vet vi ikke.

Endret 25. juni av Comma Chameleon

[Ørjanø]

Comma Chameleon skrev (3 timer siden):

Det er forståelig at det kan virke skummelt i framtiden, men per nå så er det mest nyttig som et automatiseringsverktøy som fortsatt må utvikles, driftes og kontrolleres av mennesker.

Det eneste som kan havne "ut av kontroll" nå er at alle bruker AI til å generere søppel som da forsøpler internettet. De ulike AI-modellene vi har nå er ikke i stand til å gjøre noe selv. Det er litt som når noen lagde det første verktøyet for å sende spam-epost.

Om du er redd for AI så kan du trøste deg med at dagens AI er stokk dum og ikke er en trussel i seg selv. Selv onde statsmakter med AI klarer ikke gjøre så mye mer enn å bruke det i troll-fabrikkene sine.

Mulig vi kommer til det punktet hvor AI er en selvstendig trussel, men det kan være 2 eller 500 år unna. Det vet vi ikke.

Nja, er ikke alle som er helt enig i at vi har god nok kontroll og at ai er stokk dum. Det er også usikkert om AI allerede har begynt å utvikle seg på egenhånd. 

Det vi "vanlige" mennesker har tilgang på er nok under god kontroll og ikke super smart. 

Jeg tror vi ikke helt er klar over hvilken konsekvenser dette har, noe mange AI utviklere, ai forskere med fler også påpeker og advarer. Dette er en intelligens som lærer uhyre raskere enn mennesker, har tilgang til enorme mengder med informasjon og kan i utgangspunktet lagre ubegrenset med informasjon. AI vil kunne utføre handlinger lenge før vi oppdager det. Ingen mulighet til å slå det av eller kontrollere da Ai allerede er langt foran oss. 

https://www.scientificamerican.com/article/heres-why-ai-may-be-extremely-dangerous-whether-its-conscious-or-not/

Endret 25. juni av Ørjanø

[Comma Chameleon]

Ørjanø skrev (25 minutter siden):

Jeg tror vi ikke helt er klar over hvilken konsekvenser dette har, noe mange AI utviklere, ai forskere med fler også påpeker og advarer. Dette er en intelligens som lærer uhyre raskere enn mennesker, har tilgang til enorme mengder med informasjon og kan i utgangspunktet lagre ubegrenset med informasjon. AI vil kunne utføre handlinger lenge før vi oppdager det. Ingen mulighet til å slå det av eller kontrollere da Ai allerede er langt foran oss. 

Det de prater om når de prater om disse scenariene er en ny framtidig versjon av AI som er langt foran det vi har nå.

Det er ingen grunn til å tro at AIen som er utviklet nå kan drive seg selv eller utvikle seg selv. Da overvurderer du kraftig hva de har fått til.

Vi bør passe på i tilfelle vi kommer dit, men det er en kategorisk forskjell på det du spår der og det som er laget idag.

Hvis det faktisk eksisterte så hadde vi fått vite om det fordi da hadde den klart å brutt seg fri fra systemet det var i. En uke for oss ville vært som mange år for den.

[Ørjanø]

Comma Chameleon skrev (21 minutter siden):

Det de prater om når de prater om disse scenariene er en ny framtidig versjon av AI som er langt foran det vi har nå.

Det er ingen grunn til å tro at AIen som er utviklet nå kan drive seg selv eller utvikle seg selv. Da overvurderer du kraftig hva de har fått til.

Vi bør passe på i tilfelle vi kommer dit, men det er en kategorisk forskjell på det du spår der og det som er laget idag.

Hvis det faktisk eksisterte så hadde vi fått vite om det fordi da hadde den klart å brutt seg fri fra systemet det var i. En uke for oss ville vært som mange år for den.

Ja, selvfølgelig er det stor forskjell på det vi har nå og det verste scenarioet. 

De snakker også om AI på den tiden, utviklingen fra man startet, usikkerheten og intelligensen. Det sies også at de ikke kan være sikker på at den ikke utvikler seg selv. 

En uke for oss er noen minutter til timer for AI uten kontroll. 

 

[lada1]

15 hours ago, VifteKopp said:

Hvis en maskin ble bevisst ville vi aldri kunne vite det, da det ikke finnes noen bevissthetsdetektor.

Jeg vet ikke en gang om hunden min har bevissthet.

Akkurat. Her er forøvrig litt interessant drøfting av temaet (google "consciousness fridge door" så finner du mer):

https://philosophyandpsychology.wordpress.com/2012/10/26/the-refrigerator-light-problem/