Kinesisk sjokk-app: – Ingen i verden så for seg at dette kunne skje

[Rune_says]

iblazeqt skrev (13 timer siden):

Det er jo nettopp det man oppnår med åpen kildekode. 

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Men AI/KI trenes også på rå-data som ingen har oversikt over.  Hvilket utvalg er gjort? 

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

 

[JK22]

Mr.M skrev (14 timer siden):

Nvidia rystes av kinesisk konkurrent. Milliarder dollar i aksjeverdier forsvinner.

https://www.nettavisen.no/okonomi/kinesisk-sjokk-app-ingen-i-verden-sa-for-seg-at-dette-kunne-skje/s/5-95-2256424

 

A shocking Chinese AI advancement called DeepSeek is sending US stocks plunging

http://Chinese AI advancement called DeepSeek is sending US stocks plunging

 

Mandag ble AI-utfordreren nødt til å begrense brukerregistreringer etter et «omfattende ondsinnede angrep».

https://www.finansavisen.no/teknologi/2025/01/27/8234992/deepseek-rammet-av-omfattende-cyberangrep

 

Kommer selskapet å få Trump på nakken mon tro? 

Internasjonale AI-eksperter forutså dette, de hadde observert at de kinesiske forskerne har en innbygd fordel som vestlig ikke har, deres kultur og mentalitet med vekst på kollektivitet, servilitet og hierarkisk organisering gjør dem i stand til å utkonkurrere andre innenfor programmeringsarbeid med vekt på modellen om multiple tilnærming. Det er dette de taiwanske forskerne allerede for lenge siden hadde demonstrert ved å ta ledelsen innenfor chiputviklingen mens de vestlige slite med å følge etter. Det som gjort at kineserne hang bakover, var svak utvikling av høyutdannede sjikt og dårlig tilgjengelighet på avansert maskineri. Dessuten hadde man blitt kraftig motarbeidet av den kulturelle tendensen om skamløs kopiering uten improvisering, som i eldre tid var et ideal i keiseræren. Dette har de nå brutt seg fra, fordi det blir mer og mer originalitet som kom fra Kina, som allikevel slite på et felt; uortodokse innovasjonsevne er fremmedartet for kineserne. 

Men på den andre siden vil den individualistiske vestlige slite der kollektivitet er svært sentralt, hvor innovasjonsevnen kan styrkes gjennom kollektiv samspill - og AI er et av disse feltene som forutså etteraping, kopiering, organisering og samarbeid på et meget bredt grunnlag. Dagens modell er å la AI-programmer etterape andre. Og intet er dyktigere enn kineserne når det gjelder nitidig etteraping/kopiering i søke etter perfeksjon, det nytt er at de kan improvisere fremfor å bli værende, da gammeldaglige holdninger sto i vegen. Respekt for opphavspersonen ved å ikke endre det man kopiere - dette er nå en ting av fortid. 

Dette kan ikke Vesten konkurrere med. 

[JK22]

Rune_says skrev (22 minutter siden):

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

Hva ventet du seg av "den vise mannen" Xi? Denne idioten skjønner seg aldri på måtehold. Det er hvorfor man må holde seg unna kinesiske produkter. 

[JK22]

Å, og en ting; Nvidias krasj i børsene skyldes grådighet og arroganse fremfor kinesiske presentasjoner, de hadde blitt for egenmektig og satt opp prisene høyere enn hva som var fornuftig - slik at mange rømte straks til Deepseek så snart det vist seg å ha mye av de samme egenskaper til en billigere pris. Nvidia hadde blitt sterkt topptungt i løpet av de siste to årene og dermed svært sårbar for oppkomlinger. 

[Comma Chameleon]

Kjøleskap skrev (2 timer siden):

"Sjokk-app"

Jeg hater "journalister" så mye at det er uvirkelig.

Enig. 90% av journalister er på nivå med dårlige YouTubere. Skjønner ikke at de kan ha selvrespekt.

Rune_says skrev (33 minutter siden):

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Absolutt, men på prosjekt som får såpass mye oppmerksomhet så er det mange eksperter som blir å se over løsningen. Så oddsen for at folk finner ut av ting er mye større enn på et ukjent lite prosjekt på GitHub.

Rune_says skrev (34 minutter siden):

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

100%. VG rapporterer vel at man ikke får opp så mye Ole Brum heller, av åpenbare grunner 😂. Nå har jo både OpenAI og Google sine LLMer også blitt sensurert/nerfet ganske heftig, så det ser ut til å være standarden over hele fjøla.

Det at dette er open source er herlig, og det her er en stor fuck you de amerikanske selskapene som ikke deler noe. 

Støtter ikke kinas regjering, og jeg blir ikke å bruke noe fra Deepseek som kjører online. Men her blir man jo etterhvert å kunne få offline-modeller, så det blir spennende.

[iblazeqt]

Rune_says skrev (33 minutter siden):

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Men AI/KI trenes også på rå-data som ingen har oversikt over.  Hvilket utvalg er gjort? 

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

 

Har du lest koden. Vet du det er millioner av linjer? Hele verden leser denne as we speak, og eksperter innenfor feltet. Som du selv skriver - allerede har noen avdekket sensur. 

 

Comma Chameleon skrev (35 minutter siden):

Enig. 90% av journalister er på nivå med dårlige YouTubere. Skjønner ikke at de kan ha selvrespekt.

Absolutt, men på prosjekt som får såpass mye oppmerksomhet så er det mange eksperter som blir å se over løsningen. Så oddsen for at folk finner ut av ting er mye større enn på et ukjent lite prosjekt på GitHub.

100%. VG rapporterer vel at man ikke får opp så mye Ole Brum heller, av åpenbare grunner 😂. Nå har jo både OpenAI og Google sine LLMer også blitt sensurert/nerfet ganske heftig, så det ser ut til å være standarden over hele fjøla.

Det at dette er open source er herlig, og det her er en stor fuck you de amerikanske selskapene som ikke deler noe. 

Støtter ikke kinas regjering, og jeg blir ikke å bruke noe fra Deepseek som kjører online. Men her blir man jo etterhvert å kunne få offline-modeller, så det blir spennende.

Vet du om man kan laste ned denne i dag og kjøre i eget miljø, eller er det noe som skal komme? En tanke var å få kjørt dette som et docker-image og hoste sin egen. 

[Comma Chameleon]

iblazeqt skrev (3 minutter siden):

Vet du om man kan laste ned denne i dag og kjøre i eget miljø, eller er det noe som skal komme? En tanke var å få kjørt dette som et docker-image og hoste sin egen. 

Tror du får kjørt noen av de svakere/mer utvannede modellene, men toppmodellen er det nok veldig få som har hardware til å kjøre. Modellene med få parametere er ikke nyttige nok for meg. Du kan teste selv her https://ollama.com/library/deepseek-r.

Vil også tippe at de har noen forbedringer på modellene de kjører selv og leverer via appene deres kontra det som er helt åpent, men det viktigste er fritt ute.

Uansett om man kjører det selv eller ei, så er det fantastisk å ha litt konkurranse som også er open source.

[rabler]

😄

[joandreas]

Rune_says skrev (5 timer siden):

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Men AI/KI trenes også på rå-data som ingen har oversikt over.  Hvilket utvalg er gjort? 

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

 

Finnes måter å unngå det. Hva man en skal med det. Event nr 2

https://www.reddit.com/r/DeepSeek/s/np0n34Q5g5

Endret tirsdag kl 13:37 av joandreas

[bo1e]

Rune_says skrev (5 timer siden):

Nær sagt ingen er i stand til å lese millioner med linje kode og forstå alt et komplekst program gjør.  Ja, det kan hjelpe eksperter finne bugs, men kreves svært god kunnskap.  Det er fullt mulig å gjemme kode som ingen forstår "in plain sight"

Men AI/KI trenes også på rå-data som ingen har oversikt over.  Hvilket utvalg er gjort? 

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

 

Det er ikke modellen som har innebygget sensur. Det ser nesten ut som en "after-thought" i brukergrensesnittet. Du får først det usensurerte svaret, men så gjøres en sjekk og svaret trekkes tilbake og du får et ikke-svar istedenfor. Det betyr ingenting for innovasjonen som ligger i selve modellen.

Og når kode tilgjengeliggjøres for publikum så gjør kombinasjonen av eksperter og mengden av folk som ser på det at det er veldig vanskelig å gjemme noe. Det finnes jo egne fagfelt innen forensics og reverse engineering som nettopp går ut på å forstå kode helt ned på maskininstruksnivået. Hvis noe er viktig nok å forstå, så finnes det folk som tar seg bryet med å forstå det.

Endret tirsdag kl 14:22 av bo1e

[Phantom Software]

6 hours ago, Rune_says said:

Allerede avdekket at Deepseek har innebygget sensur.  F.eks. ikke mulig å få noen info om "Tiananmen square" viste en youtuber jeg tittet innom igår kveld.  Søk på Taiwan ga også interessant resultat...  Så uten tvil en politisk sensur og farging av data.

Det er ikke noe særlig mer sensur og bias i Deepseek R1 enn i Anthropic, OpenAI, Google osv, bare annen sensur og bias.

Men ulikt de andre så er Deepseek sine modeller open source slik man kan fjerne sensur og endre bias. 

[Rune_says]

bo1e skrev (8 timer siden):

Det er ikke modellen som har innebygget sensur. Det ser nesten ut som en "after-thought" i brukergrensesnittet. Du får først det usensurerte svaret, men så gjøres en sjekk og svaret trekkes tilbake og du får et ikke-svar istedenfor. Det betyr ingenting for innovasjonen som ligger i selve modellen.

Og når kode tilgjengeliggjøres for publikum så gjør kombinasjonen av eksperter og mengden av folk som ser på det at det er veldig vanskelig å gjemme noe. Det finnes jo egne fagfelt innen forensics og reverse engineering som nettopp går ut på å forstå kode helt ned på maskininstruksnivået. Hvis noe er viktig nok å forstå, så finnes det folk som tar seg bryet med å forstå det.

Mulig det er lagt på sensur i etterkant, vanskelig å vite.

Mange måter å skjule kode på og litt overdreven tro på at mange eksperter ser på dette, gitt at det trolig kommer mange oppdateringer og allerede finnes et uttall av AI løsninger.  I et lengre løp så vil både sikkerhetshull og ondsinnet kode oppdages, men neppe alt.  Jfr Stuxnet.

Phantom Software skrev (7 timer siden):

Det er ikke noe særlig mer sensur og bias i Deepseek R1 enn i Anthropic, OpenAI, Google osv, bare annen sensur og bias.

Men ulikt de andre så er Deepseek sine modeller open source slik man kan fjerne sensur og endre bias. 

Enig i at alle har sensur, men der de vestlige primært fokuserer på sensur knyttet til aktiviteter vi objektivt ser på som kriminelt, så er dette en mer politisk type sensur i Deepseek  (fordi å kritisere myndighetene i Kina er kriminelt).

Skulle gjerne sett et eksempel på sensur fjernet fra "open source", og mulig det  kan gjøres hvis den er lagt til som en siste sjekk av svaret. 

Modeller trenes på data og det er sannsynlig at disse dataene har blitt vasket på forhånd når det gjelder politisk sensitive tema og begrep.   En AI vil bare kunne gi gode svar innenfor det den er trent på.

[Phantom Software]

21 minutes ago, Rune_says said:

Skulle gjerne sett et eksempel på sensur fjernet fra "open source", og mulig det  kan gjøres hvis den er lagt til som en siste sjekk av svaret. 

Har sett enkle jailbreaks som gir ut all mulig politisk info om Kina og Tianamen Square, så virker som dataen er der. 

Enkel Abliteration skal fungere greit, og ser det alt finnes mange slike varianter på Huggingface. Tar nok litt mer tid til man får gode, usensorerte varianter.

[jallajall]

Alibaba releases AI model it says surpasses DeepSeek

Mer AI fra Kina.
 

[The Avatar]

Rune_says skrev (15 timer siden):

Mulig det er lagt på sensur i etterkant, vanskelig å vite.

Om sensuren hadde vært innebygd så ville ikkje språkmodellen fyrst bruke tid på å lage eit svar som vises i eit brøkdels sekund før svaret blir fjerna og erstatta med eit standardsvar.
Hadde sensuren vært innebygd så hadde eg forventa at språkmodellen hadde slått inn sensuren i det du skriv inn eit uønska spørsmål. Det virker openbart at DeepSeek fyrst må lese sitt eige svar, og deretter aktiverer sensuren.

[rabler]

Oh, the irony 😀

https://www.tek.no/nyheter/nyhet/i/rP30lK/openai-hevder-deepseek-brukte-deres-modell-ulovlig

 

 

[AtterEnBruker]

Vekk meg når vi får apper og internett som ikke samler inn vår data.

[OMyre]

AtterEnBruker skrev (26 minutter siden):

Vekk meg når vi får apper og internett som ikke samler inn vår data.

Sier du / dere som mest sannsynlig bruker Fjøsbok og Google. ( Som samler inn data)

[AtterEnBruker]

OMyre skrev (23 minutter siden):

Sier du / dere som mest sannsynlig bruker Fjøsbok og Google. ( Som samler inn data)

Så kom gjerne med tips om sosiale medier og søkemotorer som ikke gjør det.

[Mr.M]

si meg, hva er så ettertraktet med dette AI/KI greiene? såvidt jeg kan bedømme av det jeg har lest i media og fra mitt u-teknologiske ståsted, er det nærmest bare Wikipedia på steroider? og, at den kan kommunisere med deg også da.

hva kan disse innretningene opplyse deg om, som du ikke kan finne med noen tastetrykk på nettet?

er det ikke risiko for at folk blir late/dumme over tid, hvis alt man mener om saker, baserer seg på ferdigsnekrede svar?