OpenAI/AGI

[germanwhip]

Har ikke sett noen spam-mailer enda, men rekner med det kommer flere og flere overbevisende pakke-fra-DHL, og Olga-som-ser-etter-sex som er GPT genererte enn statiske script.

Hva hindrer egentlig en scammer fra å installere GPT lokalt og be den hoste opp en phishing mail mot en tilfeldig ansatt i en eller annen bedrift - eller tusen bedrifter? Normalt tar det oss mennesker en viss stund å hente inn nok og riktig informasjon til å kompilere en overbevisende tekst, hvor lang tid tar det GPT å sjekke linkedin, github, facebook, tiktok, blogg.no, og hva annet og deretter sette sammen en effektiv e-post?

Endret 31. mars 2023 av germanwhip

[del_diablo]

47 minutes ago, iblazeqt said:

Den dagen AI’en kan scanne et helt github repo å fikse bug xyz og implementere funksjon a,b,c.
 

Fordi svaret her blir faktisk nei.
Den statistiske modellen kan gå over offentlig tilgjengelig kode(les: bryte opphavsrett), så kan den sannsynliggjøre funksjon ABC VIS det foreligger er eksisterende løsning på WWW den kan kopiere. Basert på statistisk data kan den kanskje refaktorere dette til kjørbar kode, og kanskje fjerne bugs... med det og sannsynlig at den lager et lappeteppe hvor den har feillest dokumentasjonen eller feilkopiert eksempler fra dataark. 

PGA av den grunnleggende funksjonaliteten den bygger på, kan den verken fikse XYZ eller implementere ABC uten at brukeren i praksis har nok kunnskaper til å gjøre dette, med mindre noen allerede har implement dette i en eksisterende kodebase som har blitt lekket på WWW.

[iblazeqt]

del_diablo skrev (49 minutter siden):

Fordi svaret her blir faktisk nei.
Den statistiske modellen kan gå over offentlig tilgjengelig kode(les: bryte opphavsrett), så kan den sannsynliggjøre funksjon ABC VIS det foreligger er eksisterende løsning på WWW den kan kopiere. Basert på statistisk data kan den kanskje refaktorere dette til kjørbar kode, og kanskje fjerne bugs... med det og sannsynlig at den lager et lappeteppe hvor den har feillest dokumentasjonen eller feilkopiert eksempler fra dataark. 

PGA av den grunnleggende funksjonaliteten den bygger på, kan den verken fikse XYZ eller implementere ABC uten at brukeren i praksis har nok kunnskaper til å gjøre dette, med mindre noen allerede har implement dette i en eksisterende kodebase som har blitt lekket på WWW.

Jeg skjønner hva du mener. Men all kode i private github-repos (prod-kode) vil jo være sammensatt av «vanlig» kode satt sammen for å få et ferdig produkt. Så sånn sett burde den jo ha en grei forutsetning - dersom den bryter opp funksjon for funksjon? 

[del_diablo]

Det letteste er det å sammenligne med en person som gir de svarer du vil høre. Det er vel og greit, men når du vil ha negativ feedback så blir det et problem.
Eller at du prøver å skaffe ferdigbygde deler for å skru dem sammen, fordi du ikke har tilgang til verktøyene for å lage delene.

[iblazeqt]

germanwhip skrev (4 timer siden):

Har ikke sett noen spam-mailer enda, men rekner med det kommer flere og flere overbevisende pakke-fra-DHL, og Olga-som-ser-etter-sex som er GPT genererte enn statiske script.

Hva hindrer egentlig en scammer fra å installere GPT lokalt og be den hoste opp en phishing mail mot en tilfeldig ansatt i en eller annen bedrift - eller tusen bedrifter? Normalt tar det oss mennesker en viss stund å hente inn nok og riktig informasjon til å kompilere en overbevisende tekst, hvor lang tid tar det GPT å sjekke linkedin, github, facebook, tiktok, blogg.no, og hva annet og deretter sette sammen en effektiv e-post?

Innstallere gpt lokalt. Da må du nok også trene den opp lokalt med nødvendig data, og kompetanse - med mindre du klarer å manøvre rundt filterne som ligger der fra før av. Jeg sliter litt med å se hvordan den skal bli mer troverdig enn de beste phising epostene i dag. Den klarer nok å lage selve mail-body’n troverdig. Men avsender adresse og eventuelle lenker som peker mot scam-addressen vil vel være like avslørende som per i dag. Den må isåfall klare å maskere avsender addresse og lenker til noe troverdig. Aner ikke om det lar seg gjøre i hele tatt. Å webscrape (hente data som ligger synlig på en nettside) i dag er noe som har eksistert lenge. Så å kunne hente data som ligger åpent fra linkedin, facebook osv. er nødvendigvis ikke en så stor jobb afaik. 

Endret 31. mars 2023 av iblazeqt

[PosteMonopolet]

ChatGPT er som en drøm å bruke nå. Tjenesten må nytes så lenge det varer.

Tipper myndighetene kommer til å ødelegge det med å kreve sensur, propaganda, og andre idiotiske restriksjoner.

Endret 31. mars 2023 av PosteMonopolet

[lada1]

AI vil bidra til å avsløre at mye av det som regnes (eller ser ut) som kreativt og spesielt menneskelig, faktisk ikke er det.  

Og AI vil påvirke hva som vi regner som "verdiskaping" og "arbeid". Noe som gjøres på 2 sekunder av en maskin, er ikke fortjenestefullt "arbeid" i menneskelig forstand - tilsvarende som at en lastebil som tar et stort lass, ikke gjør en "jobb". Det er den menneskelige deltagelsen som vil bli regnet som "arbeid".

Men hva med eierskap og kapitalinntekt? Kan AI utkonkurrere kapitalistene og f.eks. utnytte flaks? Jeg forestiller meg AI-systemer som vinnere på børsen.

Endret 1. april 2023 av lada1