FreeNAS - Krasjet dag 2

[TBJ]

Mistenker også at en del av problemet kan ligge i diskene, som var WD Green 1,5TB med ufyselig ytelse, som nå er erstattet med Hitachi-disker med knall ytelse. Mulig en eller annen buffer gikk full mens den ventet på IO til diskene med de gamle, da skriveytelsen var så lav som 10MB/sec til tider.

http://www.osnews.com/story/22872/Linux_Not_Fully_Prepared_for_4096-Byte_Sector_Hard_Drives

 

Løste dette problemet da jeg brukte diskene under linux, ved å aligne partisjonene skikkelig og bruke RAID-10. Fikk aldri til å få alignet stripe size i RAID-5, så der fikk jeg ikke bra ytelse. Kunne kanskje vært løst med mer prøving og feiling enn jeg gadd, men i ZFS med sin variable stripe size tror jeg disse diskene er nærmest umulig å få til å virke skikkelig i en RAID-5-lignende konfigurasjon.

 

(Forøvrig også mulig at det var LVM som ødela for meg under RAID-5 i linux, stripe size jeg brukte var jo definitivt delelig med 4K)

Dette er forhåpentligvis ikke noe problem med WD Black Edition 2TB?

[TBJ]

Jeg kan oppdatere dere på hvordan arbeidet går.

 

Kjøpte som nevnt 4GB ram i går, samt 4GB USB pinne.

Det første jeg gorde, var å kjøre test av den nye ram'en.

1 av de viste seg vrang, så den må byttes.

Maskina vil ikke kjøre med 3GB, så da endte jeg med 2GB (for nå).

 

Prøvde å installere 0.7.2.5266 (amd64) på nytt, men denne gangen på USB brikken.

Det gikk heller dårlig.

Fikk følgende feilmelding:

 

Jeg testet mange ganger med forskjellige kombinasjoner av plassering av minnebrikkene, kobling av harddiskene, størrelse på OS delen på USB pinne, størrelsen på swap delen på pinne.

Til og med testet jeg to andre pinner (på hhv. 8 og 4GB), men SAMME FEILEN UANSETT

Det skal liksom ikke være enkelt...

 

Langt ut på natta testet jeg igjen å installere det på harddisken (som jeg testet tidligere) og da plutselig fungerte det.

Forstå seg på det dem som kan (USB pinner har alltid fungert på den maskina i Windows. Også da jeg testet MemTest tidligere på dagen).

 

Ok. Fikk installert den, mappet opp tre WD Black Edition 2TB harddisker i raidz1 (ZFS) og begynte å kopiere inn data på de.

Resultat: Det gikk tregt... Ultra tregt.

Max 8MB/s.

Så orket jeg ikke mer... (klokka var ca. 0300).

 

Pussig nok gikk det MYE fortere dagen før da jeg mappet de opp som iSCSI (med da gikk maskina som kjent ned etter få minutter).

 

Prøver på nytt i kveld, med ny iver og pågangsmot (samt ny ram, slik at det skal bli tilsammen 4GB).

Endret 31. august 2010 av TBJ

[Sokkalf™]

Dette er forhåpentligvis ikke noe problem med WD Black Edition 2TB?

 

Såvidt jeg vet gjelder det problemet jeg hadde kun én spesiell variant av WD Green-serien. (Finnes to)

 

Den jeg har (WDxxEARS) bruker en sectorstørrelse på 4K internt, men rapporterer at den har 512 byte sectors til OS. Dermed forvirres OS, og sender data til den med feil "alignment". Dette kan delvis fikses for singel disk ved å manuelt aligne partisjonen på disken, som nevnt tidligere, men i RAID ble det for vrient for meg.

 

Den andre (WDXXEADS) rapporterer såvidt jeg vet 4K sectorstørrelse til OS.

 

Usikker på om Black bruker 4K eller 512 bytes, men såvidt jeg vet er det uansett overenstemmelse med hva som brukes internt og hva som rapporteres til OS, så den disken skal ikke ha problemer.

 

 

Så til problemet ditt. Etter som det gikk kjapt med iSCSI burde ikke nettverket være noe problem. Brukte du Samba da det gikk tregt?

 

Prøvd med f.eks FTP?

 

 

Du viser ihvertfall bra med pågangsmot her for å tukle med dette såpass lenge - hva med å legge inn "plain" FreeBSD og lære seg dette? Mulighetene og fleksibiliteten er større, osv. Man har ikke den "enkle" tilnærmingen til FreeNAS, men når det likevel er så mye tukling er det kanskje ett fett?

[TBJ]

Du viser ihvertfall bra med pågangsmot her for å tukle med dette såpass lenge - hva med å legge inn "plain" FreeBSD og lære seg dette? Mulighetene og fleksibiliteten er større, osv. Man har ikke den "enkle" tilnærmingen til FreeNAS, men når det likevel er så mye tukling er det kanskje ett fett?

Jeg har fremdeles ikke helt forstått fordelen med FreeBSD kontra FreeNAS, bortsett fra at FreeBSD er mer oppdatert

(og er mer tungvindt å sette opp).

 

Jeg skal ta en ny vurdering neste uke etter helgenes LAN.

Ser ikke bort i fra at jeg brettet opp ermene og hiver meg på "FreeBSD-bølgen" (men skulle gjerne sett noen gode argumenter først). I all frustrasjonen, så er det allikevel litt morro... I alle fall lærerrikt).

 

Jeg starter med en ny-installasjon om kort tid (m/4GB) og håper (og tror) jeg at mangel på farten kun var et engangstilfellet.

 

 

PS!

Lurer egentlig litt på hvorfor jeg ikke fikk installert på USB.

Kan det være pga. 64 bits versjonen som krever noe mer... (nå er jeg på bærtur....)?

Endret 31. august 2010 av TBJ

[tingo]

PS!

Lurer egentlig litt på hvorfor jeg ikke fikk installert på USB.

Kan det være pga. 64 bits versjonen som krever noe mer... (nå er jeg på bærtur....)?

Med forbehold om at jeg aldri har installert FreeNAS, kun FreeBSD...

Jeg har sett på det siste bildet du har postet, og ser noe som virker litt merkelig på meg.

På bildet kan du se at den sier at rotfilsystemet mountes fra partisjon ("slice") ad0s1, og at denne er ok (fdisk skipper sjekkinga), så får den problemer når den skal sjekke den neste partisjonen (ad0s2), og da "tryner" det.

Men hva er det du (eller FreeNAS) har intallert / konfigurert på partisjon 2 på minnepinnen? (jeg går ut fra at ad0 er minnepinnen i dette tilfellet)

I "vanlig" FreeBSD så bruker man en partisjon (slice) for alt, og så lages det BSD-partisjoner inn den, for eksempel slik: ad0s1a / (root), ad0s1b swap, ad0s1d /var, ad0s1e /tmp og ad0s1f /usr

[TBJ]

Jeg har sett på det siste bildet du har postet, og ser noe som virker litt merkelig på meg.

På bildet kan du se at den sier at rotfilsystemet mountes fra partisjon ("slice") ad0s1, og at denne er ok (fdisk skipper sjekkinga), så får den problemer når den skal sjekke den neste partisjonen (ad0s2), og da "tryner" det.

Men hva er det du (eller FreeNAS) har intallert / konfigurert på partisjon 2 på minnepinnen? (jeg går ut fra at ad0 er minnepinnen i dette tilfellet)

I "vanlig" FreeBSD så bruker man en partisjon (slice) for alt, og så lages det BSD-partisjoner inn den, for eksempel slik: ad0s1a / (root), ad0s1b swap, ad0s1d /var, ad0s1e /tmp og ad0s1f /usr

Jeg følger denne guiden hver gang jeg setter opp FreeNAS (uansett om jeg installerer på HD eller USB):

http://www.klikk.no/teknologi/data/article510119.ece

Partisjon 1 er OS (den rører jeg aldri)

Partisjon 2 er datalagringsområde (som jeg formaterer og mounter opp)

Partisjon 3 er swap

[TBJ]

I dag er "D-dagen"

Skal jeg kjøre FreeNAS på LAN til helgen, så MÅ det fungere i løpet av kvelden.

 

Ny dag - ny feil

Installerte alt på nytt for n'te gang i går.

Satt opp raid5 slik:

Disks|Management - Mountet opp alle tre 2TB diskene.

- Ikke satt på S.M.A.R.T.

- Preformatted file system: Software raid

Disks|Software RAID|RAID1|Management (Raid 5) - Oppbyggingn tok ca. 5 timer

Disks|Format

- Filesystem: UFS (GPT and Soft Updates)

Så mountet jeg den opp og delte den ut via Services|CIFS/SMB|Settings.

Alt så bra ut. Fikk mountet den opp på min andre server (Win2003).

Så satte jeg igang den viktige dataoverføringen (som kommer til å ta tid).

Det tok kun ett min denne gangen før overføringen stoppet.

FreeNAS gikk ikke ned denne gangen.

 

Loggen sa:

Sep 1 07:45:24 2-nva-filer smbd[2666]: [2010/09/01 07:45:24.347221, 0] lib/util_sock.c:474(read_fd_with_timeout)

Sep 1 07:45:24 2-nva-filer smbd[2666]: [2010/09/01 07:45:24.347474, 0] lib/util_sock.c:1432(get_peer_addr_internal)

Sep 1 07:45:24 2-nva-filer smbd[2666]: getpeername failed. Error was Socket is not connected

Sep 1 07:45:24 2-nva-filer smbd[2666]: read_fd_with_timeout: client 0.0.0.0 read error = Socket is not connected.

Sep 1 07:45:24 2-nva-filer smbd[2666]: [2010/09/01 07:45:24.347597, 0] lib/util_sock.c:675(write_data)

Sep 1 07:45:24 2-nva-filer smbd[2666]: [2010/09/01 07:45:24.347614, 0] lib/util_sock.c:1432(get_peer_addr_internal)

Sep 1 07:45:24 2-nva-filer smbd[2666]: getpeername failed. Error was Socket is not connected

Sep 1 07:45:24 2-nva-filer smbd[2666]: write_data: write failure in writing to client 0.0.0.0. Error Socket is not connected

Sep 1 07:45:24 2-nva-filer smbd[2666]: [2010/09/01 07:45:24.347646, 0] smbd/process.c:79(srv_send_smb)

Sep 1 07:45:24 2-nva-filer smbd[2666]: Error writing 75 bytes to client. -1. (Socket is not connected)

Sep 1 07:45:24 2-nva-filer smbd[2666]: [2010/09/01 07:45:24.347857, 0] lib/util_sock.c:675(write_data)

Sep 1 07:45:24 2-nva-filer smbd[2666]: [2010/09/01 07:45:24.347874, 0] lib/util_sock.c:1432(get_peer_addr_internal)

Sep 1 07:45:24 2-nva-filer smbd[2666]: getpeername failed. Error was Socket is not connected

Sep 1 07:45:24 2-nva-filer smbd[2666]: write_data: write failure in writing to client 0.0.0.0. Error Socket is not connected

Sep 1 07:45:24 2-nva-filer smbd[2666]: [2010/09/01 07:45:24.347905, 0] smbd/process.c:79(srv_send_smb)

Sep 1 07:45:24 2-nva-filer smbd[2666]: Error writing 75 bytes to client. -1. (Socket is not connected)

Sep 1 08:01:13 2-nva-filer nmbd[2305]: [2010/09/01 08:01:13.787071, 0] nmbd/nmbd_namequery.c:108(query_name_response)

Sep 1 08:01:13 2-nva-filer nmbd[2305]: query_name_response: Multiple (2) responses received for a query on subnet 192.168.0.62 for name NETTVERKSAFTEN<1d>.

Sep 1 08:01:13 2-nva-filer nmbd[2305]: This response was from IP 192.168.0.91, reporting an IP address of 192.168.0.91.

Sep 1 08:20:19 2-nva-filer kernel: ad0: FAILURE - SMART status=51<READY,DSC,ERROR> error=4<ABORTED>

Sep 1 08:20:19 2-nva-filer kernel: ad4: FAILURE - SMART status=51<READY,DSC,ERROR> error=4<ABORTED>

Sep 1 08:20:19 2-nva-filer kernel: ad6: FAILURE - SMART status=51<READY,DSC,ERROR> error=4<ABORTED>

Sep 1 08:20:19 2-nva-filer kernel: ad8: FAILURE - SMART status=51<READY,DSC,ERROR> error=4<ABORTED>

Sep 1 08:21:37 2-nva-filer nmbd[2305]: [2010/09/01 08:21:37.095769, 0] nmbd/nmbd_namequery.c:108(query_name_response)

Sep 1 08:21:37 2-nva-filer nmbd[2305]: query_name_response: Multiple (2) responses received for a query on subnet 192.168.0.62 for name NETTVERKSAFTEN<1d>.

Sep 1 08:21:37 2-nva-filer nmbd[2305]: This response was from IP 192.168.0.91, reporting an IP address of 192.168.0.91.

 

FAILURE - SMART status=51 ????

Jeg har ikke aktivert S.M.A.R.T. på ad4, ad6 og ad8 som raid'en er på.

 

Så gikk jeg inn på Diagnostics|Log|Settings og satte opp loggen til 1000 linjer (fra 50), aktiverte S.M.A.R.T. og rebootet systemet.

Pussing nok innholder nå loggen ALT. Dvs. også fra før jeg øket antall logg-linjer...... What ever!

Legger ved loggen her:

Full_log.txt

 

Ved nærmere ettersyn fant jeg dette i loggen:

Sep 1 08:49:54 2-nva-filer kernel: GEOM: ad6: corrupt or invalid GPT detected.

Sep 1 08:49:54 2-nva-filer kernel: GEOM: ad6: GPT rejected -- may not be recoverable.

 

I den tro på at jeg hadde lært noe etter å ha lest alle tipsene, skrev jeg følgende under Advanced|Execute command:

fsck /dev/ad6

og trykket Execute

 

Da kom dette frem:

og jeg ble "like klok".

Hva nå? Skal ikke den fortelle mer? Eller hvor finner jeg resultatet?

 

Lurer litt på om jeg satt opp raid feil?

Skulle jeg kanskje velge "Preformatted file system: Unformated" ved Disks|Management|Disk|Add og heller formatere hver disk som "Software raid"? (altså før jeg bygger raidet?)

Så i tillegg formatere også etter raidoppbyggingen var ferdig?

 

 

Edit: Jeg kunne selvfølgelig testet og satt opp raidet på nytt, men det tar tid (min. 5 timer) og nå har jeg snart ikke tid lenger til å teste (og feile).

Endret 1. september 2010 av TBJ

[siDDis]

ZFS doesn't always play nicely with MBR or GPT partition tables when you use the entire disk for ZFS. There's some overlap in the ZFS on-disk formatting and the partition table. This is a known issue with FreeBSD (see the -stable and -current mailing lists for more details).

 

When using the entire disk for ZFS, don't put any kind of partition table on it, whatsoever. Just let ZFS have the entire, raw, empty disk to use.

 

Det du bør gjere er å renske harddisken for all informasjon

 

dd if=/dev/zero of=/dev/ad6

[TBJ]

ZFS doesn't always play nicely with MBR or GPT partition tables when you use the entire disk for ZFS. There's some overlap in the ZFS on-disk formatting and the partition table. This is a known issue with FreeBSD (see the -stable and -current mailing lists for more details).

 

When using the entire disk for ZFS, don't put any kind of partition table on it, whatsoever. Just let ZFS have the entire, raw, empty disk to use.

 

Det du bør gjere er å renske harddisken for all informasjon

 

dd if=/dev/zero of=/dev/ad6

Kjørte den som ZFS forrige gang. Nå er den satt opp som "UFS (GPT and Soft Updates)"

 

Men du mener jeg bør renske den allikevel?

 

Edit: Jeg har dårlig tid.. Har allerede startet. Fjernet raid og rensker hver for seg nå.

Tar tydligvis litt tid pr. hd. Den første er enda ikke ferdig.

Endret 1. september 2010 av TBJ

[Sokkalf™]

ZFS bruker GPT-partisjonstabellen, er nok "rester" som ligger igjen her som gjør at den klager.

 

Går mye kjappere hvis du bare rensker første sector (bør holde).

 

dd if=/dev/zero of=/dev/ad6 bs=512 count=1

[TBJ]

ZFS bruker GPT-partisjonstabellen, er nok "rester" som ligger igjen her som gjør at den klager.

 

Går mye kjappere hvis du bare rensker første sector (bør holde).

 

dd if=/dev/zero of=/dev/ad6 bs=512 count=1

Sikkert lurt, for nå har den første snart brukt 30 min. og er enda ikke ferdig.

(hater å vente..)

[tingo]

Jeg følger denne guiden hver gang jeg setter opp FreeNAS (uansett om jeg installerer på HD eller USB):

http://www.klikk.no/teknologi/data/article510119.ece

Partisjon 1 er OS (den rører jeg aldri)

Partisjon 2 er datalagringsområde (som jeg formaterer og mounter opp)

Partisjon 3 er swap

Aha! Merk at den guiden er laget for å installere på harddisk.

Så lenge du installerer på en minnepinne, og har tenkt å bruke harddisker som datalagringsområde, så trenger du ikke å lage et datalagringsområde på minnepinnen.

[TBJ]

Aha! Merk at den guiden er laget for å installere på harddisk.

Så lenge du installerer på en minnepinne, og har tenkt å bruke harddisker som datalagringsområde, så trenger du ikke å lage et datalagringsområde på minnepinnen.

Da jeg testet å installere på minnepinnen, lagde jeg ikke noe datalagringsområde.

 

Jeg valgte alternativ 3 her:

Så valgte jeg 1GB på OS og 3GB til Swap (på en 4GB minnepinne).

Da endte det alltid med denne feilmeldingen:

Testet 3 forskjellie minnepinner (4, 4 og 8GB)

 

 

Hva gjør jeg feil?

[TBJ]

Vel. Arbeidet går videre (litt til).

 

Etter dagens problemer har jeg nå gjort løsnet opp og slettet raidet, og fjernet diskene fra Disks|Management .

Så gikk jeg inn via SSH og

- Renset alle tre rad-disken: dd if=/dev/zero of=/dev/ad4 bs=512 count=1 ( + ad6 og ad8)

- formaterte alle tre: newfs /dev/ad4 ( + ad6 og ad8)

- kontrollert alle tre: fsck -t UFS /dev/ad4 ( + ad6 og ad8)

 

Tenkte jeg skulle teste overførselshastighet på hver av disken før jeg på nytt satt opp raid.

Jeg satt opp diskene på nytt i Disks|Management (Preformatted file system: unformated). Så formaterte jeg de som UFS.

Da jeg satt de opp på Disks|Mount Point (partition GPT og filsystem UFS), fikk jeg Error.. Retry (ikke noe mer).

Bootet maskina og borte ble den.

 

Har ikke hatt muligheten til å se på skjemen enda, men kona mi har fortalt meg litt av hva hun så på skjermen (hun har ikke peiling, så det var ikke lett å få hun til å bekrive feilen).

Men ut i fra hva hun fortalte, lignet feilen på dette; ,

men hun så ingenting av /dev/ad....

 

 

Ok. Jeg skal nå hjem og kjøre kontroll også på OS disken. Det må jo være den som feilet.

(skulle så gjerne ha fått det til på minnepinne.... )

[tingo]

Da jeg testet å installere på minnepinnen, lagde jeg ikke noe datalagringsområde.

 

Jeg valgte alternativ 3 her:

Så valgte jeg 1GB på OS og 3GB til Swap (på en 4GB minnepinne).

Da endte det alltid med denne feilmeldingen:

Testet 3 forskjellie minnepinner (4, 4 og 8GB)

 

 

Hva gjør jeg feil?

Ikke godt å si. valg 3 virker på meg som om den vil ha os + swap + en datapartisjon på samme disk (minnepinne) - og slik ser feilmeldingen ut også; den forsøker å mounte ad0s2a (os'et er på ad0s1a, den sier ikke noe om hvor swap er, men det er nok på ad0s1b).

Hva skjer om du bruker valg 1 istedet og forsøker å installere på en minnepinne?

Datapartisjonne kan du jo legge til etterpå, under disk management.

[TBJ]

Hva skjer om du bruker valg 1 istedet og forsøker å installere på en minnepinne?

Datapartisjonne kan du jo legge til etterpå, under disk management.

Verd å sjekke. Jeg har jo testet snart det meste, uansett.

Men jeg vet ikke hva som menes med "embedded" OS....

 

Driver nå og tester OS harddisken etter feil.

Kjørte fsck -t UFS /dev/ad0 og fikk:

** /dev/ad0

** Last Mounted on

** Phase 1 - Check Blocks and Sizes

** Phase 2 - Check Pathnames

** Phase 3 - Check Connectivity

** Phase 4 - Check Reference Counts

** Phase 5 - Check Cyl groups

2 files, 2 used, 56763325 free (21 frags, 7095413 blocks, 0.0% fragmentation)

 

Det så jeg bra ut (tror jeg....), men på skjermen kom det frem andre feilmeldinger (noe om partisjon 2)- Husker ikke detaljert.

 

Kjører dd if=/dev/zero of=/dev/ad0 nå, så får vi se om de feilmeldingene fremdeles dukker opp etterpå.

 

Tester på nytt med minnepinne etterpå.

Endret 1. september 2010 av TBJ

[tingo]

Verd å sjekke. Jeg har jo testet snart det meste, uansett.

Men jeg vet ikke hva som menes med "embedded" OS....

Står det ikke noe om det i dokumentasjonen da?

 

 

Det så jeg bra ut (tror jeg....), men på skjermen kom det frem andre feilmeldinger (noe om partisjon 2)- Husker ikke detaljert.

Det er sikkert ikke noe feil med harddisken (fysisk), men det virker som det er en logisk feil et eller annet sted. Kanskje problemet er at installasjonsprogrammet forventer å finne os + swap + data (tre partisjoner totalt, 2 vanlige og en swap) fordi du har brukt valg 3 i installasjonsmenyen?

 

I så fall er det lett å teste; bruk valg 3 og lag tre partisjoner (os, swap + data, datapartisjonen kan være liten du skal jo ikke bruke den likevel), og se om feilmeldingen om ad0s2 forsvinner.

Endret 1. september 2010 av tingo

[TBJ]

I så fall er det lett å teste; bruk valg 3 og lag tre partisjoner (os, swap + data, datapartisjonen kan være liten du skal jo ikke bruke den likevel), og se om feilmeldingen om ad0s2 forsvinner.

Kommer aldri så langt.

Velger jeg alternativ 3, spør den om størrelse jeg vil ha på OS delen, så om jeg vil ha en swap del, så hvor stor den skal være.

Så installere den seg, og tilslutt ber den meg ta ut CDen og boote maskina.

Så bootes maskina og feilmeldingen (den med superblocks) opp.

[TBJ]

Verd å sjekke. Jeg har jo testet snart det meste, uansett.

Men jeg vet ikke hva som menes med "embedded" OS....

Står det ikke noe om det i dokumentasjonen da?

Blir rett og slett ikke noe klok av det.

FÅr inntrykk av at det er en "ribbet "versjon, men ikke mer detaljert.

 

Alternativ 1 gir meg ikke muligheten til å ha swap på pinnen. Det er jo dumt.

Alternativ 2 laget en 120MB partisjon og installerer "embedded" OS der.

Liker ikke embedded... Mister jeg muligheter til å utvide FreeNAS med div. ad-ons da, siden den får så liten plass.

Og hva mangler, siden den blir så liten?

[BAT]

Jeg har selv installert FreeNas på noe gammelt HW og som jeg har forstått det så betyr embeddet at OS'et installeres på USB/minne brikke og så lastes det til minne når man skrur på maskinen. Så lenge maskinen er på så brukes Ramdisken for å gi minst mulig skriving til USB stikken/minnebrikken da disse ikke er laget for den "slitasje"som et OS kan gi. Når man så slår av så skrives evt endringer til OS disken.

Endret 1. september 2010 av BAT