Er det noen som har erfaring med DeepSeek R1?

[arne22]

Er det noen av dere her på forum som har testet DeepSeek R1? 

Forstår det slik at DeepSeek R1 er en slags forminsket utgave av ChatGPT som har blitt trent ved å hente ut data i fra større språkmodeller slik som OpenAI og ChatGPT. Forstå det også slik at DeepSeek (i en eller annen variant) finnes som OpenSource programvare som det også skal være mulig å laste ned og kjøre på en vanlig PC. Fant noe info her:

Og her:

https://www.tek.no/nyheter/nyhet/i/rP30lK/openai-hevder-deepseek-brukte-deres-modell-ulovlig

Er det noen av dere her på forum som har testet DeepSeek eventuelt R1 og som har noe mer info eller erfaringer å dele?

Også noe interessant info her:

 

Og her:

https://robododd.com/how-to-run-deepseek-r1-ai-windows-locally/

Det kan se ut som at prisen på grafikkortet brukt i videoen over er ca 20.000,- og oppover. Skal tro om det finnes noen forholdvis rimelig hardware som gir brukbar performance?

(Har jeg endelig fått en grunn til å kjøpe meg en gaming maskin??!)

Kan DeepSeek R1 bare engelsk, eller forstår og behersker den også andre språk? Noe info.

Endret onsdag kl 15:28 av arne22

[Splitter]

Har ikke fått testet så mye med DeepSeek R1 ennå, men har et veldig positivt førsteinntrykk.

Legger ved et par skjermbilder av samtaler jeg har hatt med DeepSeek. Ble veldig imponert over at den klarte å løse gåten i den første samtalen. Ikke engang mine skrivefeil og dårlige engelsk klarte å forvirre den. 

Når det gjelder å snakke norsk, så er nok resultatet mye mindre imponerende. Den kan nok gjøre seg forstått, men hvis en ønsker å bruke den til en jobbsøknad eller noe annet viktig, er den stort sett ubrukelig.

Når det gjelder hardware, er mengden VRAM på skjermkortet alfa og omega. Jeg har testet med Geforce 4080 som har 16 GB. Skulle jeg ha kjøpt skjermkort i dag, ville jeg nok helt sikkert ha valgt et kort med mer VRAM. 3090 er et veldig godt alternativ, men 20000 er alt for mye. Prøv å se på Finn.no. Mange minere som prøver å bli kvitt skjermkortene sine nå som mining ikke lenger er lønnsomt.

[arne22]

On 1/29/2025 at 6:47 PM, Splitter said:

Prøv å se på Finn.no. Mange minere som prøver å bli kvitt skjermkortene sine nå som mining ikke lenger er lønnsomt.

Det var et godt tips. Ser at bruktprisen varierer mellom 7.000-12.000 med flesteparten rundt 9.000. Også noen ferdigbygde PC'er med kortet installert. Er i utlandet og har ingen mulighet til å teste nå, men vil gjøre det så snart jeg kommer hjem. Fant ellers en test av online utgaven av Deepseek, som jeg synes har et litt interessant innhold:

Mener/vil tro at videoen foruten å vise hvordan AI data kan være "biased", også kanskje viser noen av de kvalitative forskjellene mellom en AI modell som jobber ut i fra "ekte grunndata" kontra en AI modell som jobber opp mot et "destillat" av grunndata, dvs at den har blitt trent ut i fra bruken av andre AI modeller. (Den ene gir svar med mange nyanser og utdypinger, og den andre gir litt kortere og mer entydige svar - bare en foreløpig hypotese, som jeg har.) 

Egentlig så ligger jo "den praktiske bruksverdien" av AI i kvaliteten av de grunndata som den har blitt trent mot. Det interessante vil jo være om det for eksempel er mulig å trene en lokal generell AI modell som Deepseek videre ut i fra egne lokale data, slik at man kan spisse den opp mot mer avgrensede bruksområder, ved at man "legger inn" eller trener den opp videre mot egne dokumenter og grunndata, som man legger til selv, slik at man for eksempel kan få til en brukbar AI modell for forskjellige typer brukerstøtte.  

Endret 15 timer siden av arne22

[arne22]

Legger ut litt info for senere bruk.

1. Installasjon på Ubuntu Linux:

2. Litt om bruken:

3. Installasjon på Mac og litt mer om bruken:

 

 

 

[arne22]

Info til den som har lyst til å teste:

Jeg installerte den minste modellen på en "reise PC" på ca 1 kg og i5/16GB. PC har ikke noe dedikert grafikkort.

Fulgte instruksjonene i video no 2 ovenfra bortsett ifra at jeg valgte den minste modellen. En slik installasjon kan nok gi et interessant innblikk i hvordan AI modeller fungerer, men det som kom ut av den var kanskje ikke helt overbevisende:

******

>>> what is the capital of the Philippines?
<think>  

..

The current capital of the Philippines is **BaguenaDelta**, a city located in the Mindanao province. This city has been the capital since 1984, and it is often referred to by its name as the country's government center.

*******

"Fungerer" betyr tydeligvis ikke det samme som "gir ut riktige svar". 

[arne22]

>>> Forstår du norsk?
<think>

Njegde kan forstå norsk ifs de skal forstå den. Forstå Norwegian og Norske er like store forstå NDEN. Norske er det språket der er spil i hector med tellende frane, og norvann har norset en viktig rolle i samfunnsproglsen. Det er vanleg som at se norsk eller norvejskort, men det kan være letterligesom elder for de som ikke har til høst norvann. Forstå Norwegian er et viktig stolteord og er viktig for internasjonale kompetansen i internasjonal og klima utvikling.

[arne22]

Den relativt større språkmodellen (deepseek-r1:14b) kjørte også, men ganske langsomt og med 100% belastning på prosessor og RAM, og det var litt interessant, for da rakk man å følge med på hvordan den jobbet:

>>> What is the capital of the Philippines?
<think>
Alright, so the user just asked me what the capital of the Philippines is. Let's break this down.

First, I know that capitals are important because they're the centers of government for a country. The Philippines is a country in Southeast Asia, right? I'm pretty sure it's an archipelago with lots of islands.

I think the capital might be Manila because I remember hearing about it being a major city there. But wait, isn't there another city that's considered the capital too? Oh yeah, Quezon City!
That's where the president lives, so maybe it's also a capital in some sense.

But then I recall reading something about a new capital being planned to reduce the population and traffic in Manila. Isn't that supposed to be part of a big development project?

So, to sum up, Manila is the traditional capital with the government offices, Quezon City is where the president resides, and there's also plans for a new capital somewhere else.
</think>

The Philippines has two official capitals:

1. **Manila** - This is the nation's historical and economic capital, housing most government agencies and key institutions.
2. **Quezon City** - Designated as the administrative capital, it serves as the residence of the President of the Philippines.

Additionally, there are ongoing plans to establish a new capital, known as **New Clark City**, to alleviate population density and traffic congestion in Manila.

 

[Phantom Software]

Størrelsen på modell har mye å si, dermed har størrelse på VRAM mye å si. Et alternativ til dyre grafikkort er (dyre) Mac maskiner. Der er nesten alt minnet tilgjengelig som VRAM, så du kan kjøre mye større modeller til samme pris som et nytt skjermkort. Det vil til gjengjeld gå litt tregere.

R1 er fint til sitt bruk, er innom den med med noen spørsmål daglig.

Endret 3 timer siden av Phantom Software

[arne22]

Veldig interessant. Dette at det går tregt det gjør jo tingene nesten enda mer interessant, for da rekker man jo å følge med i hvordan det kjører. 

Lurte ellers på hvor den lagret alle disse store datafilene, på mange gigabyte, i tilfellet man må rydde opp manuelt. På Windows så var det lett å finne: 

C:/users/brukernavn/.ollama

Har ellers tenkt på den nye M4 Mac'en et par ganger, men har fram til nå ikke sett noe aktuelt bruksområde.

Endret 3 timer siden av arne22