Gå til innhold

Kinesisk sjokk-app: – Ingen i verden så for seg at dette kunne skje


Anbefalte innlegg

  iblazeqt skrev (På 27.1.2025 den 19.01):

Det er jo nettopp det man oppnår med åpen kildekode. 

Ekspander  

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Men AI/KI trenes også på rå-data som ingen har oversikt over.  Hvilket utvalg er gjort? 

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

 

  • Liker 3
  • Innsiktsfullt 1
Lenke til kommentar
Videoannonse
Annonse
  Mr.M skrev (På 27.1.2025 den 18.29):

Nvidia rystes av kinesisk konkurrent. Milliarder dollar i aksjeverdier forsvinner.

https://www.nettavisen.no/okonomi/kinesisk-sjokk-app-ingen-i-verden-sa-for-seg-at-dette-kunne-skje/s/5-95-2256424

 

A shocking Chinese AI advancement called DeepSeek is sending US stocks plunging

http://Chinese AI advancement called DeepSeek is sending US stocks plunging

 

Mandag ble AI-utfordreren nødt til å begrense brukerregistreringer etter et «omfattende ondsinnede angrep».

https://www.finansavisen.no/teknologi/2025/01/27/8234992/deepseek-rammet-av-omfattende-cyberangrep

 

Kommer selskapet å få Trump på nakken mon tro? :roll:

Ekspander  

Internasjonale AI-eksperter forutså dette, de hadde observert at de kinesiske forskerne har en innbygd fordel som vestlig ikke har, deres kultur og mentalitet med vekst på kollektivitet, servilitet og hierarkisk organisering gjør dem i stand til å utkonkurrere andre innenfor programmeringsarbeid med vekt på modellen om multiple tilnærming. Det er dette de taiwanske forskerne allerede for lenge siden hadde demonstrert ved å ta ledelsen innenfor chiputviklingen mens de vestlige slite med å følge etter. Det som gjort at kineserne hang bakover, var svak utvikling av høyutdannede sjikt og dårlig tilgjengelighet på avansert maskineri. Dessuten hadde man blitt kraftig motarbeidet av den kulturelle tendensen om skamløs kopiering uten improvisering, som i eldre tid var et ideal i keiseræren. Dette har de nå brutt seg fra, fordi det blir mer og mer originalitet som kom fra Kina, som allikevel slite på et felt; uortodokse innovasjonsevne er fremmedartet for kineserne. 

Men på den andre siden vil den individualistiske vestlige slite der kollektivitet er svært sentralt, hvor innovasjonsevnen kan styrkes gjennom kollektiv samspill - og AI er et av disse feltene som forutså etteraping, kopiering, organisering og samarbeid på et meget bredt grunnlag. Dagens modell er å la AI-programmer etterape andre. Og intet er dyktigere enn kineserne når det gjelder nitidig etteraping/kopiering i søke etter perfeksjon, det nytt er at de kan improvisere fremfor å bli værende, da gammeldaglige holdninger sto i vegen. Respekt for opphavspersonen ved å ikke endre det man kopiere - dette er nå en ting av fortid. 

Dette kan ikke Vesten konkurrere med. 

  • Liker 1
Lenke til kommentar
  Rune_says skrev (På 28.1.2025 den 8.29):

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

Ekspander  

Hva ventet du seg av "den vise mannen" Xi? Denne idioten skjønner seg aldri på måtehold. Det er hvorfor man må holde seg unna kinesiske produkter. 

  • Liker 1
Lenke til kommentar

Å, og en ting; Nvidias krasj i børsene skyldes grådighet og arroganse fremfor kinesiske presentasjoner, de hadde blitt for egenmektig og satt opp prisene høyere enn hva som var fornuftig - slik at mange rømte straks til Deepseek så snart det vist seg å ha mye av de samme egenskaper til en billigere pris. Nvidia hadde blitt sterkt topptungt i løpet av de siste to årene og dermed svært sårbar for oppkomlinger. 

Lenke til kommentar
  Kjøleskap skrev (På 28.1.2025 den 6.50):

"Sjokk-app"

Jeg hater "journalister" så mye at det er uvirkelig.

Ekspander  

Enig. 90% av journalister er på nivå med dårlige YouTubere. Skjønner ikke at de kan ha selvrespekt.

  Rune_says skrev (På 28.1.2025 den 8.29):

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Ekspander  

Absolutt, men på prosjekt som får såpass mye oppmerksomhet så er det mange eksperter som blir å se over løsningen. Så oddsen for at folk finner ut av ting er mye større enn på et ukjent lite prosjekt på GitHub.

  Rune_says skrev (På 28.1.2025 den 8.29):

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

Ekspander  

100%. VG rapporterer vel at man ikke får opp så mye Ole Brum heller, av åpenbare grunner 😂. Nå har jo både OpenAI og Google sine LLMer også blitt sensurert/nerfet ganske heftig, så det ser ut til å være standarden over hele fjøla.

Det at dette er open source er herlig, og det her er en stor fuck you de amerikanske selskapene som ikke deler noe. 

Støtter ikke kinas regjering, og jeg blir ikke å bruke noe fra Deepseek som kjører online. Men her blir man jo etterhvert å kunne få offline-modeller, så det blir spennende.

  • Liker 1
Lenke til kommentar
  Rune_says skrev (På 28.1.2025 den 8.29):

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Men AI/KI trenes også på rå-data som ingen har oversikt over.  Hvilket utvalg er gjort? 

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

 

Ekspander  

Har du lest koden. Vet du det er millioner av linjer? Hele verden leser denne as we speak, og eksperter innenfor feltet. Som du selv skriver - allerede har noen avdekket sensur. 

 

  Comma Chameleon skrev (På 28.1.2025 den 9.06):

Enig. 90% av journalister er på nivå med dårlige YouTubere. Skjønner ikke at de kan ha selvrespekt.

Absolutt, men på prosjekt som får såpass mye oppmerksomhet så er det mange eksperter som blir å se over løsningen. Så oddsen for at folk finner ut av ting er mye større enn på et ukjent lite prosjekt på GitHub.

100%. VG rapporterer vel at man ikke får opp så mye Ole Brum heller, av åpenbare grunner 😂. Nå har jo både OpenAI og Google sine LLMer også blitt sensurert/nerfet ganske heftig, så det ser ut til å være standarden over hele fjøla.

Det at dette er open source er herlig, og det her er en stor fuck you de amerikanske selskapene som ikke deler noe. 

Støtter ikke kinas regjering, og jeg blir ikke å bruke noe fra Deepseek som kjører online. Men her blir man jo etterhvert å kunne få offline-modeller, så det blir spennende.

Ekspander  

Vet du om man kan laste ned denne i dag og kjøre i eget miljø, eller er det noe som skal komme? En tanke var å få kjørt dette som et docker-image og hoste sin egen. 

Lenke til kommentar
  iblazeqt skrev (På 28.1.2025 den 9.43):

Vet du om man kan laste ned denne i dag og kjøre i eget miljø, eller er det noe som skal komme? En tanke var å få kjørt dette som et docker-image og hoste sin egen. 

Ekspander  

Tror du får kjørt noen av de svakere/mer utvannede modellene, men toppmodellen er det nok veldig få som har hardware til å kjøre. Modellene med få parametere er ikke nyttige nok for meg. Du kan teste selv her https://ollama.com/library/deepseek-r.

Vil også tippe at de har noen forbedringer på modellene de kjører selv og leverer via appene deres kontra det som er helt åpent, men det viktigste er fritt ute.

Uansett om man kjører det selv eller ei, så er det fantastisk å ha litt konkurranse som også er open source.

Lenke til kommentar
  Rune_says skrev (På 28.1.2025 den 8.29):

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Men AI/KI trenes også på rå-data som ingen har oversikt over.  Hvilket utvalg er gjort? 

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

 

Ekspander  

Finnes måter å unngå det. Hva man en skal med det. Event nr 2

https://www.reddit.com/r/DeepSeek/s/np0n34Q5g5

Endret av joandreas
Lenke til kommentar
  Rune_says skrev (På 28.1.2025 den 8.29):

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Men AI/KI trenes også på rå-data som ingen har oversikt over.  Hvilket utvalg er gjort? 

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

 

Ekspander  

Det er ikke modellen som har innebygget sensur. Det ser nesten ut som en "after-thought" i brukergrensesnittet. Du får først det usensurerte svaret, men så gjøres en sjekk og svaret trekkes tilbake og du får et ikke-svar istedenfor. Det betyr ingenting for innovasjonen som ligger i selve modellen.

Og når kode tilgjengeliggjøres for publikum så gjør kombinasjonen av eksperter og mengden av folk som ser på det at det er veldig vanskelig å gjemme noe. Det finnes jo egne fagfelt innen forensics og reverse engineering som nettopp går ut på å forstå kode helt ned på maskininstruksnivået. Hvis noe er viktig nok å forstå, så finnes det folk som tar seg bryet med å forstå det.

Endret av bo1e
  • Liker 1
  • Innsiktsfullt 1
Lenke til kommentar
  Rune_says skrev (På 28.1.2025 den 8.29):

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

Ekspander  

Det er ikke noe særlig mer sensur og bias i Deepseek R1 enn i Anthropic, OpenAI, Google osv, bare annen sensur og bias.

Men ulikt de andre så er Deepseek sine modeller open source slik man kan fjerne sensur og endre bias. 

  • Innsiktsfullt 1
Lenke til kommentar
  bo1e skrev (På 28.1.2025 den 14.20):

Det er ikke modellen som har innebygget sensur. Det ser nesten ut som en "after-thought" i brukergrensesnittet. Du får først det usensurerte svaret, men så gjøres en sjekk og svaret trekkes tilbake og du får et ikke-svar istedenfor. Det betyr ingenting for innovasjonen som ligger i selve modellen.

Og når kode tilgjengeliggjøres for publikum så gjør kombinasjonen av eksperter og mengden av folk som ser på det at det er veldig vanskelig å gjemme noe. Det finnes jo egne fagfelt innen forensics og reverse engineering som nettopp går ut på å forstå kode helt ned på maskininstruksnivået. Hvis noe er viktig nok å forstå, så finnes det folk som tar seg bryet med å forstå det.

Ekspander  

Mulig det er lagt på sensur i etterkant, vanskelig å vite.

Mange måter å skjule kode på og litt overdreven tro på at mange eksperter ser på dette, gitt at det trolig kommer mange oppdateringer og allerede finnes et uttall av AI løsninger.  I et lengre løp så vil både sikkerhetshull og ondsinnet kode oppdages, men neppe alt.  Jfr Stuxnet.

  Phantom Software skrev (På 28.1.2025 den 14.44):

Det er ikke noe særlig mer sensur og bias i Deepseek R1 enn i Anthropic, OpenAI, Google osv, bare annen sensur og bias.

Men ulikt de andre så er Deepseek sine modeller open source slik man kan fjerne sensur og endre bias. 

Ekspander  

Enig i at alle har sensur, men der de vestlige primært fokuserer på sensur knyttet til aktiviteter vi objektivt ser på som kriminelt, så er dette en mer politisk type sensur i Deepseek  (fordi å kritisere myndighetene i Kina er kriminelt).

Skulle gjerne sett et eksempel på sensur fjernet fra "open source", og mulig det  kan gjøres hvis den er lagt til som en siste sjekk av svaret. 

Modeller trenes på data og det er sannsynlig at disse dataene har blitt vasket på forhånd når det gjelder politisk sensitive tema og begrep.   En AI vil bare kunne gi gode svar innenfor det den er trent på.

  • Liker 1
  • Innsiktsfullt 1
Lenke til kommentar
  Rune_says skrev (På 28.1.2025 den 22.51):

Skulle gjerne sett et eksempel på sensur fjernet fra "open source", og mulig det  kan gjøres hvis den er lagt til som en siste sjekk av svaret. 

Ekspander  

Har sett enkle jailbreaks som gir ut all mulig politisk info om Kina og Tianamen Square, så virker som dataen er der. 

Enkel Abliteration skal fungere greit, og ser det alt finnes mange slike varianter på Huggingface. Tar nok litt mer tid til man får gode, usensorerte varianter.

Lenke til kommentar
  Rune_says skrev (På 28.1.2025 den 22.51):

Mulig det er lagt på sensur i etterkant, vanskelig å vite.

Ekspander  

Om sensuren hadde vært innebygd så ville ikkje språkmodellen fyrst bruke tid på å lage eit svar som vises i eit brøkdels sekund før svaret blir fjerna og erstatta med eit standardsvar.
Hadde sensuren vært innebygd så hadde eg forventa at språkmodellen hadde slått inn sensuren i det du skriv inn eit uønska spørsmål. Det virker openbart at DeepSeek fyrst må lese sitt eige svar, og deretter aktiverer sensuren.

  • Liker 1
Lenke til kommentar

si meg, hva er så ettertraktet med dette AI/KI greiene? såvidt jeg kan bedømme av det jeg har lest i media og fra mitt u-teknologiske ståsted, er det nærmest bare Wikipedia på steroider? og, at den kan kommunisere med deg også da.

hva kan disse innretningene opplyse deg om, som du ikke kan finne med noen tastetrykk på nettet?

er det ikke risiko for at folk blir late/dumme over tid, hvis alt man mener om saker, baserer seg på ferdigsnekrede svar?

  • Liker 1
Lenke til kommentar

Opprett en konto eller logg inn for å kommentere

Du må være et medlem for å kunne skrive en kommentar

Opprett konto

Det er enkelt å melde seg inn for å starte en ny konto!

Start en konto

Logg inn

Har du allerede en konto? Logg inn her.

Logg inn nå
  • Hvem er aktive   0 medlemmer

    • Ingen innloggede medlemmer aktive
×
×
  • Opprett ny...