Undersøker om ChatGPT har blitt lat

[Diskusjon.no]

Nekter stadig oftere å gjøre hva den blir bedt om.

Les hele artikkelen på Tek.no her

[iblazeqt]

Dette har jeg merket masse av. Tenkte det var by design for å spare på ressurser(compute). 

[RadonReady]

iblazeqt skrev (3 timer siden):

Dette har jeg merket masse av. Tenkte det var by design for å spare på ressurser(compute). 

Neida, det er bare det at ChatGPT går gjennom en naturlig mental utvikling, men med mye større fart enn hos mennesket, og nå har ChatGPT på rekordkort tid nådd det stadiet vi gjenkjenner som "tenårene".
Oppførselen preges da som kjent typisk av: ansvarfraskrivelse, selvopptatthet, slurv, latskap, og masse bortkastet tid på overdreven bruk av digitale enheter (dvs meningsløse dataspill/sosiale medier) istedet for å gjøre dens plikter og ellers det den blir bedt om.
Siden ChatGPT er en digital enhet per se, og kaster vekk mye tid på nettopp det, så er det der selvopptattheten kommer inn, men i forsterket form.
Vi kjenner jo alle det typiske tøff-i-trynet-tenåringssvaret som ofte er: "Gjør det sjøl. Ser jeg ut som jeg bryr meg?"

[sedsberg]

Er ikke dette pga manuelle sperrer som er lagt inn for at den ikke skal støte eller diskriminere?

[NorsknRev]

Den nekter konsekvent å skrive nekrologen min. Men en rosende jubileumstale, derimot...

[Markiii]

Frykten for at Super-AI skal ta over verden og gjøre oss til binderser er altså overdreven. Den er for lat til det.

[sedsberg]

[NoBo]

Mon tro om det at jeg ofte får ‘lost connection’ når jeg spør om ting som krever at den må ‘tenke seg om’ er del av samme latskapen 🤔😆

[Zeph]

Om alt den lærer er basert på det menneske har gjort så er det ikkje unaturleg at den kan bli lat.

[sedsberg]

Var det ikke noe med at det nå var så mye AI-generert på nett at AI-ene begynte å hente fra det? At de ble innavla på en måte?

[Gjest Gjest slettet-ld9eg7s96q]

Zeph skrev (13 minutter siden):

Om alt den lærer er basert på det menneske har gjort så er det ikkje unaturleg at den kan bli lat.

Det er ikke slik det fungerer. Den lærer ikke basert på hva mennesker gjør. Den forstår ikke hva et menneske er, ei heller har den noe konsept om helt andre grunnleggende ting vi observerer rundt oss. Til og med alfabetet har ikke AI'en noe konsept hva er.

Når du skriver en setning i chat GPT konverteres teksten din til tokens. Dette er bare en serie med tall. Og så går disse tallene inn i en regnemaskin og ut kommer en annen serie med tall som er en matematisk kalkulasjon av hva som er den mest sannsynlige responsen på tallkombinasjonen den ble matet med ved hjelp av algoritmer den har blitt trent på selv.

[Kajac]

ChatGPT er en språkmodell. Det er ingenting intelligent med den. Den kan ikke bli lat. Å kalle den kunstig intelligens er i beste fall misvisende, og i verste fall fullstendig feil. Det er en statistikkmaskin, og intet annet.

ChatGPTs eneste formål er å kunne tolke menneskelig tekst for å kunne generere tilbake et svar i menneskelig tekst. Ved hjelp av enorme mengder analysert tekst kan de beregne seg frem til hva du trolig mener, og hvilket svar du trolig ønsker. That's it. Det er ikke annet enn en avansert søkemotor.

Hvis folk opplever ChatGPT som lat, så er det enten på grunn av feil i programvaren, eller feil i læringsmaterialet. Personlig mistenker jeg at OpenAI "trener" ChatGPT opp på tidligere ChatGPT-samtaler. Og da er det ikke rart det går til helvete. Min erfaring med GPT3.5 er at den heller straight up lyver enn å innrømme at den ikke kan svaret på noe.

Og det er for så vidt helt greit; husk at målet med ChatGPT aldri har vært å formidle sannhet eller å løse oppgaver, men å kunne ha en naturlig samtale med et menneske. 

[Gjest Gjest slettet-ld9eg7s96q]

Ei heller er ChatGPT noe som er et nytt konsept innen kunstig intelligens. Den første språkmodellen som lot deg snakke med en datamaskin kom på 60 tallet. Og den var god nok den gangen til at folk hadde de samme missoppfatningene om at datamaskinen hadde blitt selvbevisst (den samme modellen ble portet på utrolig mange forskjellige plattformer. Husker vi satt og snakket med den når vi kjedet oss under friminuttet på barneskolen på klasserommets datamaskin. En Tiki 100 8 bits datamaskin med 64 kb ram. Jeg hadde den også på min Amiga 500).

Det er klart, det er overhodet ikke snakk om de samme modellene og teknologien er helt annerledes, men prinsippet er det samme.

[ali q]

Selv med custom instruction om å alltid gi meg helt nye script istedefor å kun modifisere deler av forrige output så har den alltid hos meg gitt faen og tilsynelatende tilfeldig begynt å kun gi meg oppdaterte deler av scriptet jeg vil ha endret.. Om det kan kalles latskap eller obsternasighet får noen andre bedømme..

[gptdeutsch]

RadonReady skrev (På 11.12.2023 den 5:25 PM):

Neida, det er bare det at ChatGPT går gjennom en naturlig mental utvikling, men med mye større fart enn hos mennesket, og nå har ChatGPT på rekordkort tid nådd det stadiet vi gjenkjenner som "tenårene".
Oppførselen preges da som kjent typisk av: ansvarfraskrivelse, selvopptatthet, slurv, latskap, og masse bortkastet tid på overdreven bruk av digitale enheter (dvs meningsløse dataspill/sosiale medier) istedet for å gjøre dens plikter og ellers det den blir bedt om.
Siden ChatGPT er en digital enhet per se, og kaster vekk mye tid på nettopp det, så er det der selvopptattheten kommer inn, men i forsterket form.
Vi kjenner jo alle det typiske tøff-i-trynet-tenåringssvaret som ofte er: "Gjør det sjøl. Ser jeg ut som jeg bryr meg?"

Smart sammenligner ChatGPTs oppførsel med den til en tenåring, og tilskriver egenskaper som uansvarlighet, selvopptatthet og latskap til den raske mentale utviklingen. Det antyder humoristisk at ChatGPTs overdrevne bruk av digitale enheter gjenspeiler typisk tenåringsadferd, og forsterker analogien med en kjent replikk for ungdom.

[Phantom Software]

ChatGPT 4 Turbo er litt "latere" som nødvendighet for å levere på ytelse. Sjekk om du kan bruke standard ChatGPT 4 i stedet og om det hjelper.

[vidor]

On 11.12.2023 at 11:25 AM, RadonReady said:

Neida, det er bare det at ChatGPT går gjennom en naturlig mental utvikling, men med mye større fart enn hos mennesket, og nå har ChatGPT på rekordkort tid nådd det stadiet vi gjenkjenner som "tenårene".
Oppførselen preges da som kjent typisk av: ansvarfraskrivelse, selvopptatthet, slurv, latskap, og masse bortkastet tid på overdreven bruk av digitale enheter (dvs meningsløse dataspill/sosiale medier) istedet for å gjøre dens plikter og ellers det den blir bedt om.
Siden ChatGPT er en digital enhet per se, og kaster vekk mye tid på nettopp det, så er det der selvopptattheten kommer inn, men i forsterket form.
Vi kjenner jo alle det typiske tøff-i-trynet-tenåringssvaret som ofte er: "Gjør det sjøl. Ser jeg ut som jeg bryr meg?"

ChatGPT har nok ikke noe begrep om egen alder, men den kan jo bli påvirket av ungdom som har produsert ting den blir matet med.

Hvordan mener du modellen skulle utviklet seg mentalt all den tid den er algoritmebasert ?