Mistanke om Deepfake | Nytt prosjekt som forvandler menneskers liv

[TheDarkSycamore - SCM]

Jeg vet ikke om jeg vil tro på denne videoen, pga den ser ut til og være en deepfake. Er det noen som kan bekrefte min mistanke? Til og med stemmen høres falsk ut, hakkete og robot akti. Syns denne utviklingen her er mer skummel at noen stjeler andres personlighet via en ai. Hva mener dere om denne ai utviklingen? 🙄 Dere må gjerne også kommentere om hva dere mener om det som blir nevnt i videoen. 😊

 

Endret 29. oktober 2023 av TheDarkSycamore - SCM

[dundersalt123]

Helt åpenbart fake.

Og det som nevnes i videoen - hvordan skal en aksjetrading-ai utrydde fattigdom?

Det blir ikke mer penger av at noen gjør gode aksjehandler. Pengene kommer fra noen andre. 

Om noen lar seg lure av denne eller tilsvarende videoer til å "investere" i noe slikt tull kan de skylde seg selv.

[Selfuniverse]

4 hours ago, dundersalt123 said:

Helt åpenbart fake.

Ja det brukes en blanding av vanlige korte klipp som bare er dubba av deepfake stemme, og ansiktsvideo som trengs for å lage en ansiktsdeepfake med tilhørende stemme.

Veldig greit å få opplæring i å spotte slikt først som sist. Kan jo potensielt brukes til å forføre eller lure en hel verden.

[dundersalt123]

21 minutes ago, Selfuniverse said:

Ja det brukes en blanding av vanlige korte klipp som bare er dubba av deepfake stemme, og ansiktsvideo som trengs for å lage en ansiktsdeepfake med tilhørende stemme.

Veldig greit å få opplæring i å spotte slikt først som sist. Kan jo potensielt brukes til å forføre eller lure en hel verden.

Innen kort tid vil det nok være tilnærmet umulig å se om en video er ekte eller ikke.

Heldigvis kommer man fremdeles langt med god gammeldags sunn fornuft.

"Når noe er for godt til å være sant, så er det akkurat det det er"

Endret 29. oktober 2023 av dundersalt123

[Iki]

Bare å ikke stole på noe som ikke kommer direkte fra personen selv.

Ellers er det stadig utvikling av nettlesere og systemer for å gjennomgå videoer og bilder, for å markere dem som ai genererte.

[agvg]

Men hva vil skje med samfunnet hvis man ikke kan stole på noe med mindre man møtes ansikt til ansikt?

[Iki]

agvg skrev (1 time siden):

Men hva vil skje med samfunnet hvis man ikke kan stole på noe med mindre man møtes ansikt til ansikt?

Trenger ikke møte dem ansikt til ansikt.

Om musk legger ut en video på musk sin egen Twitter, eller youtube, etc så vet man jo at den kommer fra ham.

Om en tilfeldig youtube konto legger ut noe, og denne kontoen enten ikke har delt noe tidligere, eller bare deler slikt, så er det jo lett å se at det ikke er fra musk selv.

[Olsenhower]

En av mange slike videoer der det helt åpenbart er fake/scam.

[TheDarkSycamore - SCM]

dundersalt123 skrev (10 timer siden):

Helt åpenbart fake.

Og det som nevnes i videoen - hvordan skal en aksjetrading-ai utrydde fattigdom?

Det blir ikke mer penger av at noen gjør gode aksjehandler. Pengene kommer fra noen andre. 

Om noen lar seg lure av denne eller tilsvarende videoer til å "investere" i noe slikt tull kan de skylde seg selv.

Jah, jeg syntes at det var noe med den videoen som ikke stemte.

[agvg]

Iki skrev (21 timer siden):

Trenger ikke møte dem ansikt til ansikt.

Om musk legger ut en video på musk sin egen Twitter, eller youtube, etc så vet man jo at den kommer fra ham.

Om en tilfeldig youtube konto legger ut noe, og denne kontoen enten ikke har delt noe tidligere, eller bare deler slikt, så er det jo lett å se at det ikke er fra musk selv.

Men så enkelt vil det selvsagt ikke være.

[Iki]

agvg skrev (17 minutter siden):

Men så enkelt vil det selvsagt ikke være.

Hvorfor ikke? Det kan selvfølgelig være at kontoen til musk blir hacket, men ellers er det så lett.

[VifteKopp]

dundersalt123 skrev (23 timer siden):

Innen kort tid vil det nok være tilnærmet umulig å se om en video er ekte eller ikke.

Heldigvis kommer man fremdeles langt med god gammeldags sunn fornuft.

"Når noe er for godt til å være sant, så er det akkurat det det er"

Problemet er at veldig mange mennesker ikke har sunn fornuft

[agvg]

VifteKopp skrev (1 time siden):

Problemet er at veldig mange mennesker ikke har sunn fornuft

Spiller ingen rolle, hvis det er så dårlig at man med litt tanke gang kan avskrive det som falskt så er det dårlig håndverk, slik manipulasjon vil selvsagt brukes mye smartere og vil være ett farlig våpen i de rette hender.

[:utakt]

Så lenge teknologien "bare" brukes til svindelforsøk som dette, så er jeg ikke veldig bekymret. Det som ville vært mye verre er om noen hadde laget videoer med falske budskap fra politikere og offentlige organer, som fyrer opp under noe folk allerede er tungt følelsesmessig investert i. Israel / Palestina er f.eks mer enn ille nok allerede, om ikke noen også skal lage en falsk video med "Biden" som får folk til å koke over enda mer. 

Jeg er genuint bekymret for hva denne teknologien potensielt kan trigge av reaksjoner i verden. Den rette videoen kan sette i gang en kjedereaksjon som ikke lar seg stanse. 

[VifteKopp]

agvg skrev (29 minutter siden):

Spiller ingen rolle, hvis det er så dårlig at man med litt tanke gang kan avskrive det som falskt så er det dårlig håndverk, slik manipulasjon vil selvsagt brukes mye smartere og vil være ett farlig våpen i de rette hender.

Det vil ikke forbli dårlig. Dette er bare startfasen av denne teknologien.

[agvg]

:utakt skrev (14 minutter siden):

Så lenge teknologien "bare" brukes til svindelforsøk som dette, så er jeg ikke veldig bekymret. Det som ville vært mye verre er om noen hadde laget videoer med falske budskap fra politikere og offentlige organer, som fyrer opp under noe folk allerede er tungt følelsesmessig investert i. Israel / Palestina er f.eks mer enn ille nok allerede, om ikke noen også skal lage en falsk video med "Biden" som får folk til å koke over enda mer. 

Jeg er genuint bekymret for hva denne teknologien potensielt kan trigge av reaksjoner i verden. Den rette videoen kan sette i gang en kjedereaksjon som ikke lar seg stanse. 

Det vil jo skje, bryte ned tilliten i samfunnet og manipulere er jo ikke noe nytt, nå får man bare langt bedre verktøy til og gjøre dette.

[Iki]

Igjen. Ikke stol på ukjente kilder og du vil ikke bli lurt.

Hvorfor skal du tro at en politiker plutselig sier noe som ikke stemmer med tidligere utsagn om kilden er en nettside som tidligere har spredt løgner?

Om folk blir påvirket av deepfakes så hadde dem blitt påvirket av rykter fortalt av samme nettsted.

[RJohannesen]

Iki skrev (21 minutter siden):

Igjen. Ikke stol på ukjente kilder og du vil ikke bli lurt.

Hvorfor skal du tro at en politiker plutselig sier noe som ikke stemmer med tidligere utsagn om kilden er en nettside som tidligere har spredt løgner?

Om folk blir påvirket av deepfakes så hadde dem blitt påvirket av rykter fortalt av samme nettsted.

Problemstillingen idag er hvilke kilder kan vi stole på?

Både nrk og mange andre store redaktørstyrte medier bidro til store opprør også i Europa da de smørte fake news om at Israel hadde bombet et sykehus og drept minst 500 sivile. Uten noen som helst kilde enn en terroristorganisasjon. Null kildekritikk altså. Takket være X/twitter og open source etterforskere ble det så avkrevtet og det viste seg at det var en palestinsk motstandsgruppe sin rakett som hadde truffet en parkeringsplass utenfor, sykehuset var altså ikke truffet, det var ikke Israel og det var heller ikke 500 døde sivile.  New York Times hadde tilogmed tatt med et helt annet bilde av en bombet bygning...

 

Når de etablerte mediekanalene diskrediterer seg selv slik bare for å få noen ekstra klikk så er jeg redd for hva som kan skje når noen streamer deepfake videoer av atombombing i midtøsten og raketter på vei mot andre land...

[:utakt]

Aftenposten med en kommentar om dette (deepfake) i dag. Spesielt avsnittet om valget i Slovakia var interessant. Jeg visste ikke at det hadde skjedd, men det er jo nøyaktig hva man er redd for med denne teknologien. 

https://www.aftenposten.no/meninger/kommentar/i/onOkq0/falske-videoer-holder-sikkerhetssjefen-vaaken-om-natten

Sitat

En manipulert video, en såkalt deepfake, som viser rapstjernen Nicki Minaj og skuespiller Tom Holland snakke om deres forvirrede nabo Mark Zuckerberg, er ikke noe stort problem i seg selv.

Videoen ble laget som harmløs underholdning. Den var tydelig merket, og det var ingen hemmelighet hvem som hadde laget den. Klippet var fra den britiske kringkasteren ITVs serie «Deep fake neighbour wars».

Nicki Minaj mislikte den falske videoen, og mente at det tryggeste nok ville være å slette hele internett (ingen proporsjonal reaksjon, for å holde oss til krigsterminologi). Men problemet er ikke at Nicki Minaj er sur.

Problemet er at det er vanskelig å se at det ikke er henne i videoen.

I andre sammenhenger kan det bli veldig, veldig farlig.

Krig i hodet

«Det kognitive domenet er i ferd med å bli definert som et krigsområde.»

Det sa sjefen for Nasjonal sikkerhetsmyndighet, Sofie Nystrøm, på Påvirkningskonferansen nylig. Hun overdrev ikke. Forsvarets forskningsinstitutt (FFI), som var en av arrangørene av konferansen, forsker nå på det de kaller kognitiv krigføring. Etterretningstjenesten kaller det informasjonspsykologiske effekter. Betydningen er den samme: Desinformasjon, propaganda og annen påvirkning av folks oppfatninger og holdninger.

Det kan for eksempel være en fremmed makt eller grupper som vil påvirke hvordan folk tenker. To av de mest aktive nasjonene på området, Russland og Kina, ønsker seg en ny verdensorden, ifølge Janet Blatny, forskningsdirektør ved FFI.

Det forsøker de å oppnå blant annet gjennom å bruke det digitale domenet til å endre politiske beslutninger, spre usikkerhet, skape mistillit og øke motsetningene i Vesten. Rett og slett destabilisere og svekke det de opplever som en motpart når de vil forskyve maktbalansen i verden.

Og nå har de fått et enormt kraftfullt våpen i hendene.

Har allerede påvirket valg

Et par dager før parlamentsvalget i Slovakia i slutten av september ble et forfalsket lydklipp lagt ut på Facebook. En av stemmene i klippet tilhørte Michal Šimečka, leder for partiet Proggresive Slovakia (PS). I klippet diskuterer han med journalisten Monika Tódová fra avisen Denník N hvordan han kan jukse seg til seier ved å kjøpe stemmer fra romfolket. Og når kampen er vunnet, sier han, vil han doble ølprisene.

Šimečka tapte valget. Det er umulig å slå fast at valgresultatet skyldtes lydklippet. Men vinneren ble den Putin-vennlige lederen for partiet Smer, Robert Fico – som på forhånd hadde lovet å kutte støtten til Ukraina.

Noen husker kanskje videoen der Ukrainas president Volodymyr Zelenskyj ba sine soldater legge ned våpnene og overgi seg til russerne? Falske videoer av en svekket Joe Biden er allerede i omløp. Biden har reagert på dem også. 

Neste år er det presidentvalg i USA. Og parlamentsvalg i EU. Kreml har alt å vinne på å skape motsetninger og splittelser i vesten, påvirke valg og få inn maktpersoner Putin mener vil være nyttig for dem.

Det er bare å holde seg fast.

Men helt forsvarsløse er Russlands fiender ikke.

Regler, redaktører og mer kunstig intelligens

De fleste digitale plattformer har regler mot manipulerte bilder, lyd og video som er ment å villede. Google har lenge hatt et forbud mot deepfakes i politisk reklame, og for noen dager siden kom Facebook og Instagram etter.

Programvaren som avslører om innholdet er manipulert, er også blitt veldig avansert.

Problemet er at deepfakes som postes fra en privat konto kan få stor spredning før de eventuelt fjernes. Og dersom de fjernes, kan de leve videre på andre plattformer. Og denne typen innhold får alltid mye større spredning enn dementiene.

Det bekymrer NSM-sjef Sofie Nystrøm.

Lettpåvirkelig

«Noen får all sin informasjon fra sosiale medier. Yngre oppsøker nyheter i mindre grad enn eldre», sa Nystrøm i innlegget sitt.

Og det stemmer.

Ifølge Statistisk sentralbyrå ser nesten to tredjedeler av voksne mellom 45 og 64 år på TV eller lytter til radio i løpet av en dag. Bare to av ti unge voksne mellom 16 og 24 år gjør det samme. Sannsynligvis ser eller hører langt færre en nyhetssending.

Men 91 prosent av barn og ungdom mellom 9 og 18 år bruker Youtube. 78 prosent er på Snapchat. 73 prosent er på Tiktok og 64 på Instagram.

Den store forskjellen er at disse digitale plattformene ikke er redaktørstyrte medier. Det du ser, kan være ekte eller ikke. Hvem som helst kan poste nesten hva de vil.

Inkludert alle som har onde hensikter.

Ikke rart Nystrøm ligger våken om natten.