Er verden farligst med eller uten AI?

[Diskusjon.no]

Bør vi kreve stopp, eller heie på?

Les hele artikkelen på Tek.no her

[Kajac]

Skulle ønske de sluttet å kalle "generativ AI" for kunstig intelligens. Det er ingenting intelligent med språk- og bildemodeller. Den beste sammenligningen jeg har hørt er at "generativ AI" er som en avansert papegøye. 

AGI finnes ikke, og om det mot formodning skulle bli oppfunnet en gang, vil det garantert ikke ha sitt utspring fra generativ AI og språkmodeller. 

Det mest geniale OpenAI (and friends) har gjort er å overbevise folk med alt for mye penger og alt for lite tech-kunnskap om å investere syke summer hos dem.

[vidor]

Du må huske på at det som er tilgjengelig for folk flest bare er toppen av isberget. Det er f.eks også laget ekspertsystemer som selv de beste ekspertene ikke klarer å lure tross iherdige forsøk.

AGI kommer nok til å bli mer offentlig etter hvert og det er nok nettopp for AGI bl.a. innvendingene til Elon Musk begynner å bli mer forståelig for folk flest. Teknologien har absolutt noe for seg, men man trenger å ha kontroll over den og innebyggede sikkerhetsmekanismer. Science-Fiction som Skynet har jo allerede skapt litt tankevirksomhet hos folk.

Det er vel forresten en grunn til at Elon valgte å kalle det flyvende internett-systemet sitt Starlink heller enn Skynet.

Endret 30. november 2023 av vidor

[Noxhaven]

Kajac skrev (21 minutter siden):

Skulle ønske de sluttet å kalle "generativ AI" for kunstig intelligens. Det er ingenting intelligent med språk- og bildemodeller. Den beste sammenligningen jeg har hørt er at "generativ AI" er som en avansert papegøye. 

AGI finnes ikke, og om det mot formodning skulle bli oppfunnet en gang, vil det garantert ikke ha sitt utspring fra generativ AI og språkmodeller. 

Det mest geniale OpenAI (and friends) har gjort er å overbevise folk med alt for mye penger og alt for lite tech-kunnskap om å investere syke summer hos dem.

Problemet er kanskje begrepet intelligens? Mer spesifikt hva du legger i begrepet du protesterer mot. Disse algoritmene er ekstremt intelligente på visse ting og veldig uintelligente på andre ting.

En IQ test er laget for å måle intelligens hos mennesker, når den ble gitt til ChatGPT så ende det med en IQ på 155 som er bedre enn 99.9% av folk.
Denne algoritmen er altså mer intelligent en deg i følge en standard intelligens test.

So what finally did it score overall? Estimated on the basis of five subtests, the Verbal IQ of the ChatGPT was 155, superior to 99.9 percent of the test takers who make up the American WAIS III standardization sample of 2,450 people. As the chatbot lacks the requisite eyes, ears and hands, it is not able to take WAIS’s nonverbal subtests. But the Verbal IQ and Full Scale IQ scales are highly correlated in the standardization sample, so ChatGPT appears to be very intelligent by any human standards.
https://www.scientificamerican.com/article/i-gave-chatgpt-an-iq-test-heres-what-i-discovered/

Men dette sier kanskje mer om definisjonen på intelligens og så klart IQ-tester i sin helhet enn det gjør om den svært avanserte papegøyen.

[vidor]

Det er svært lite kontrovers rundt svarene på en IQ-test. De er høyst binære og lette å trene opp en maskin til, så det også optimalt for å få slike systemer til å se bra ut. 

Et ekspertsystem som er laget er f.eks et medisinsk system som så langt virker svært lovende. Det er paradoksalt nok høystatus-yrker som f.eks medisin og juss som egner seg svært godt for AI-systemer, men typiske lavstatus-yrker som er mer fysiske egner seg dårligere. Det som er lett for mennesker er gjerne vanskelig for maskiner og motsatt.

[Noxhaven]

vidor skrev (3 minutter siden):

Det er svært lite kontrovers rundt svarene på en IQ-test. De er høyst binære og lette å trene opp en maskin til, så det også optimalt for å få slike systemer til å se bra ut. 

Et ekspertsystem som er laget er f.eks et medisinsk system som så langt virker svært lovende. Det er paradoksalt nok høystatus-yrker som f.eks medisin og juss som egner seg svært godt for AI-systemer, men typiske lavstatus-yrker som er mer fysiske egner seg dårligere. Det som er lett for mennesker er gjerne vanskelig for maskiner og motsatt.

Er chatGPD trent opp til å ta IQ tester?

[vidor]

Det vet jeg ikke, men regner med det er en del av hva den er matet med. IQ-tester er jo designet for å være så generiske som mulig, sånn at de skal passe for "alle" uansett kultur, alder og bosted, så sånn sett er de jo perfekt for AI siden det ikke blir noe tvetydige ting i datamassen som vil gi utfordringer på tolkningen.

Et av problemene er jo om en mater disse systemene med mye skit, så er det jo det man risikerer kommer ut av systemet.

Dette skjedde jo bl.a. med Chatbot-systemet Google utviklet (Cleverbot). 

Mener systemet ble tunet for å bl.a luke ut rasisme og bannskap. Var vel også et problem at det plukket opp konspirasjonsteorier.

[Kajac]

Noxhaven skrev (32 minutter siden):

Er chatGPD trent opp til å ta IQ tester?

ChatGPT er trent opp med "hele internett". Det inkluderer nødvendigvis ganske mange IQ-tester. Men ChatGPT kan bare løse en IQ-test fordi den har hatt IQ-tester i opplæringsmaterialet. Om man lager en helt ny IQ-test og gir den til ChatGPT så får vi raskt vite hvor dum den egentlig er.

Jeg mener, den kan jo ikke regne ordentlig en gang.

 

[MailMan13]

Den skriver tekst som ligner tekst som kommer etter det du har spurt om.

Det er ingen modell av verden, ingen logiske resonement og ingen kreativitet der. Absolutt ingenting. Vi blir blendet av at den har godt språk, som ligner i form på det gode skribenter ville skrevet.

Spør du om noe som faktisk krever resonement utover å repetere tekstmønstre, så blir det veldig fort veldig tydelig hva som foregår.

Helt klart et revolusjonerende verktøy for stavekontroll og skrivehjelp. Men hvor mye intelligens det er der utover det? Ikke allverden.

Endret 30. november 2023 av MailMan13

[The Avatar]

Verden blir definitivt ikkje meir farleg eller tryggare for den slags skuld på grunn av KI.

Med mindre ein sett KI til å dømme i straffesaker, blir satt til å styre våpensystem, eller liknande så vil ikkje KI utgjere ein fare for liv og helse.
Det sagt så vil nok mykje endre seg på grunn av AI, men det er ingenting nytt.

 

Kunstig intelligens vil utvilsomt påvirke mange yrker, spørsmålet er berre på kva måte. At mange blir arbeidslause kan være eit utfall, men det kan like gjerne være at KI bidreg til at vi får frigjort ressursar som kan brukast til å utvikle betre tenester.
Ta til dømes offentleg byråkrati som NAV. Ein kan nok bruke KI til å erstatte nesten alle tilsette, men eg trur nok at det i staden vil blir eit ønske om å gjere endringar i NAV systemet for å fange opp fleire unike situasjonar. Om det skjer så vil det være ein fordel å bruke KI til å skrive vedtak slik at dei tilsette kan fokusere på å sette seg inn i sakene og vurdere alle sider.

Og sjølv om KI tek jobbane våre, så er eg 100% sikker på at vi finn andre arbeidsoppgåver som vi kan prioritere når KI tek over arbeidsoppgåvene som lett kan automatiserast.
I dag er det (nesten) ingen som jobbar med å plukke småstein frå potetåkrane, går rundt og tenner gatelampene når det blir mørkt, eller jobbar som TV-reperatør. Det har ikkje blitt stor nød av at bonden ved hjelp av ein traktor kan drive gården åleine, alle disse som jobba ute på åkrane fekk seg andre jobbar, kanskje særleg innafor industrien.