FreeNAS - Krasjet dag 2

[TBJ]

Satte opp FreeNAS i går.

Installerte (i tillegg til OS disk) 4 harddisker, hvorav tre av de skulle settes opp i raid5.

Initialiseringen av raidoppsettet tok 15 timer og i mellomtiden mappet jeg opp den siste harddisken (NTFS) og begynte å kopiere fra den (den skal tømmes og formateres på nytt).

 

I dag, etter at raidoppsettet endelig ble ferdig, stoppet plutselig kopieringen og jeg mistet tilgang til maskina.

 

Her er bilde av feilmeldigen som sto på skjermen:

 

Har nå startet maskina på nytt og ingenting virker galt.

Har lest informasjonen for alle harddiskene og de ser ok ut.

 

Under Diagnostics|Information|Disks (ATA) finner jeg følgende om /dev/ad14:

 

Device /dev/ad14 - WDC WD2001FASS-00W2B0/01.00101

Device name: ad14Transfer mode: SATA150Firmware Rev: 01.00101

ATA revision: ATA-8

LBA 48: yes

Geometry: 16383 cyls, 16 heads, 63 spt

Capacity: 1863GB

SMART Supported: yes

SMART Enabled: yes

APM Supported: yes

APM Enabled: yes

AAM Supported: yes

AAM Enabled: no

APM Value: 128

 

 

----------------

 

Under Diagnostics|Information|Partitions finner jeg:

 

Device /dev/ad14 - WDC WD2001FASS-00W2B0/01.00101

******* Working on device /dev/ad14 *******

parameters extracted from in-core disklabel are:

cylinders=3876021 heads=16 sectors/track=63 (1008 blks/cyl)

 

Figures below won't work with BIOS for partitions not in cyl 1

parameters to be used for BIOS calculations are:

cylinders=3876021 heads=16 sectors/track=63 (1008 blks/cyl)

 

Media sector size is 512

Warning: BIOS sector numbering starts with sector 1

Information from DOS bootblock is:

The data for partition 1 is:

sysid 165 (0xa5),(FreeBSD/NetBSD/386BSD)

start 63, size 3907029105 (1907729 Meg), flag 80 (active)

beg: cyl 0/ head 1/ sector 1;

end: cyl 180/ head 15/ sector 63

The data for partition 2 is:

<UNUSED>

The data for partition 3 is:

<UNUSED>

The data for partition 4 is:

<UNUSED>

---------------------------

 

Alt virker ok(?) her (tror jeg).

 

Men raidoppsettet har stoppet....

Under Disks|Software RAID|RAID5|Management står status (raid5) som "STOPPED".

 

 

 

1. Hva er galt (jeg forstår lite av feilmeldingen)?

 

2. Hvorfor vil ikke raidoppsettet starte? (kanskje en sammenheng....?)

[siDDis]

Virker som du får kernel panic. Har du tilgang til terminal med FreeNAS?

[TBJ]

Virker som du får kernel panic. Har du tilgang til terminal med FreeNAS?

ja

[siDDis]

greier du å installere /usr/ports/sysutils/smartmontools/ ?

 

så skriver du smartctl -a /dev/ad14

 

prøv også og test disken med kommandoen dd if=/dev/ad14 of=/dev/null bs=1m conv=noerror

[TBJ]

greier du å installere /usr/ports/sysutils/smartmontools/ ?

 

så skriver du smartctl -a /dev/ad14

 

prøv også og test disken med kommandoen dd if=/dev/ad14 of=/dev/null bs=1m conv=noerror

Jeg tror jeg skal klare det, men jeg må vente til raid5 er ferdig bygd opp igjen.

Den sto som stoppet, så derfor slettet jeg den og fikk den bygd opp på nytt.

Den er ferdig ca. 15:28 i dag, så jeg tørr ikke å gjøre noe før det.

 

Hvis du hadde en liten oppskrift på hvordan jeg installere Smarmontools, så vill jeg si takk til det.

[siDDis]

cd /usr/ports/sysutils/smartmontools/

make install clean

 

pass på at du er root

[TBJ]

cd /usr/ports/sysutils/smartmontools/

make install clean

 

pass på at du er root

Skriver: cd /usr/ports/sysutils/smartmontools/

Får meldingen "No such file or directory".

 

Det ligger ingen mappe som heter ports under /usr...

Der ligger kun bin, home, lib, libexec, local, sbin, share

[TBJ]

Jeg begynte på nytt.

 

Siden jeg kjører AMD Athlon 64 processor 3500+, så prøvde jeg meg nå med Amd64 versjonen av FreeNAS og versjon 0.7.2.5266 (nightly build).

 

Installerte og alt så greit ut.

Satt opp iSCSI på ZFS RAIDz1 med tre harddisker ut i fra denne guiden: =freenas&s[]=guide&s[]=creating&s[]=iscsi&s[]=target&s[]=zfs&s[]=raidz1&s[]=file&s[]=system"]FreeNAS Guide for creating an iSCSI target of a ZFS RAIDz1 File System (glimrende guide, by the way).

 

Alt virket bra. Fikk opp disken på min Win2003 maskin (server nr. 2) og begynte å kopiere over mengder av data fra den gamle Win2003 maskina og over til nye raidoppsettet.

 

Det tok kun 5 minutter før maskina (FreeNAS) forsvant fra nettet og ble borte.

Maskina hadde tydligvis funnet det best i å reboote og følgende melding sto på skjermen:

 

Trying to mount root from ufs://dev/ad0s1a

WARNING: / was not properly dismounted

Starting root file system check:

/dev/ad0s1a: 2259 files, 47861 used, 200994 free (1266 frags, 25966 blocks, <ser ikke alt på bilde>

fragmentation)

Loading configuration files,

Updating rc.conf: ..........................

Generating user database(s),

Starting GEOM devices,

Entropy harvesting: interrupts ethernet point_to_point kickstart,

Starting file system checks:

/dev/ad0s2a: DEFER FOR BACKGROUND CHECKING

Cannot fint file system superblock

Cannot fint file system superblock

Unknown error; help! (som jeg skulle skrevet det selv...)

ERROR: ABORTING BOOT (sending SIGTERM to parent)!

Aug 30 07:22:3 init: /bin/sh on /etc/rc terminated abnormally, going to single

user mode

Enter pull pathname of shell or RETURN for /bin/sh:

 

 

Med min begrensede kunnskap til dette, så står jeg (igjen) på bar bakke.

Jeg kan selvfølgelig reinstallere og prøve på nyt og håpe at feilen var en engangs-tilfellet, men jeg har aller helst lyst til å finne ut av hva som har skjedd slik jeg jeg kan fikse feilen (unngå den til senere).

Kjedelig hvis en slik enkel(?) feil gjør at jeg mister alt på raidoppsettet mitt senere (når jeg virkelig får data på det).

 

Noen som kan hjelpe meg videre her?

 

Tiden begynner å renne ut. Den skulle vært klar for LAN til fredag...

 

Jeg er evig takknemlig for all den hjelp jeg nå kan få.

Frustrasjonsnivå: 9 av 10

[siDDis]

Vanskeleg å si noko heilt konktret, det kan vere hardware-feil. FreeBSD/FreeNAS er rimeleg strict på hardware feil. Windows og Linux er kjent for å bare drite i feilen og prøve på nytt(dermed er datakorrupsjon som regel eit faktum).

 

Prøv og trykk enter og skriv

fsck /dev/ad0s1a

 

Du burde kanskje prøve AMD64 versjonen av FreeBSD 8.1. Det er litt meir knotete med at du må bruke terminalen istadenfor eit webGUI. Men dokumentasjonen er knallgod og sitter du fast så kan du jo bare spør her. Då får du også ein veldig stabil versjon av ZFS.

[TBJ]

Hei og takk for innspill

 

Vanskeleg å si noko heilt konktret, det kan vere hardware-feil. FreeBSD/FreeNAS er rimeleg strict på hardware feil. Windows og Linux er kjent for å bare drite i feilen og prøve på nytt(dermed er datakorrupsjon som regel eit faktum).

 

Prøv og trykk enter og skriv

fsck /dev/ad0s1a

Får prøve det så fort jeg kommer hjem fra jobb.

 

 

Du burde kanskje prøve AMD64 versjonen av FreeBSD 8.1. Det er litt meir knotete med at du må bruke terminalen istadenfor eit webGUI. Men dokumentasjonen er knallgod og sitter du fast så kan du jo bare spør her. Då får du også ein veldig stabil versjon av ZFS.

... Er FreeBSD mer stabil enn FreeNAS? (med tanke på jeg kanskje har hardware feil).

 

Hvis det er hardware feil, så misstenkter jeg minnet.

Jeg har 2 stk. Kingston HyperX 1024MB 400MHz DDR, PC3200 DDR Kit m/2stk CL2 + 2 stk. "husker ikke" ram på 512MB pr. stykk.

Kanskje den ikke er så glad i kombinasjonen.

 

Evt. kan det være HD feil.

Skal uansett over til USB pinne så fort som mulig.

 

Er det mulig å kontrollere/teste om det er minne feil i FreeNAS?

 

Uansett så er jeg blitt så glad i webGUI at jeg grøsser på tanken av å gjøre alt på terminalen (som ikke alltid er like tilgjengelig).

[siDDis]

FreeBSD er nok betre dokumentert når det kjem til å finne løysningar på problemar. Godt mogleg det er noko gale med minnet, men eg mistenker harddisken i første omgang.

 

Diverse LiveCD'er med Linux inkluderer minnetest program, Ubuntu skal ha det.

 

Terminal er veldig tilgjengeleg med bruk av SSH protokollen

Til Windows bruker du f.eks Putty til å kommunisere.

[Sokkalf™]

Du har kanskje for lite RAM til å kjøre ZFS uten tuning. Vet ikke hvordan FreeNAS er med iSCSI, men mener jeg har lest om at dette ikke er helt 100% på FreeBSD enda.

 

Vil tippe kombinasjonen fyller kernel-minnet ditt og du får en panic.

 

Serveren min var ikke stabil med FreeBSD 8 (RELEASE og STABLE pr. mars-april 2010 ca.) og 4GB RAM ihvertfall. Nå har jeg FreeBSD 8.1-RELEASE og 8GB RAM, og ting ser mye bedre ut.

 

Jeg er på ingen måte enig med FreeBSD-teamet i at ZFS er "production ready" fra 8.0, men det er ihvertfall blitt kraftig forbedret fra 7.0.

 

Men hvis målet ditt er å kjøre dette som et iSCSI-target ville jeg kanskje gått for Solaris/Nexenta. Da er ihvertfall disse tingene dønn stabilt.

[siDDis]

Du har sikkert tunet feil

 

Eg har 2 servere heime nå som kjører ZFS, den eine er ein gammal p4 med 2GB ram som kjører i386. Denne krevde litt tuning i starten for å bli stabil. Den er sikkert ikkje enda heilt 100%, men den har ikkje kræsja dei siste månedane enda med X antall TB fram og tilbake.

 

Server 2 som kjører AMD64 med 6GB ram har for det meste vore stabil. Eg fikk ein kernel panic og fekk eit tips om å endre vm.kmem_size til 50% meir av minnet enn det ein eigentleg har. Då har det vore 100% stabilt

Resten av innstillingane på AMD64 er då på auto.

 

Og ytelsen er heilt rå

[tingo]

Memtest: http://www.memtest.org/

[TBJ]

SSH.. Tenkte ikke på det. Putty. Jaja. Kanskje...

Grensesnittet til FreeNAS tiltaler mitt kunnskapsnivå mye bedre, men FreeBSD er vel neppe uoverkommerlig (men tiden rekker ikke i denne omgang).

 

Jeg vurderer veldig sterkt å kjøpe 4x1GM ram. Det er max. av hva hovedkortet støtter.

Jeg vil ikke (enda) bruke så mye mer penger på serveren.

Det som lokket meg over til FreeNAS var at den ikke trenge så rå hardware, men det ser ut som mitt bruke krever litt mer enn "minimum".

 

Jeg har ingen mål om å kjøre dette som et iSCSI-target (ei heller ZFS), men ut i fra alt jeg har lest de siste ukene virket det veldig fristene.

Mulig jeg nå går til det mer enkle, slik at det i det miste fungere, så kan jeg heller "kose" meg med div. prøving og feiling i ukene som kommer.

 

Men jeg prøver i alle fall én dag for å få dette opp slik.

 

 

Server 2 som kjører AMD64 med 6GB ram har for det meste vore stabil. Eg fikk ein kernel panic og fekk eit tips om å endre vm.kmem_size til 50% meir av minnet enn det ein eigentleg har. Då har det vore 100% stabilt

Resten av innstillingane på AMD64 er då på auto.

 

Og ytelsen er heilt rå

(missunnelig)

Jeg får kjøpe mer ram (evt. kjøre ram test hvis jeg ikke får tak i billig ram innen KORT tid).

 

Jeg har ikke tunet den noe (det er kanskje det du mener med "tunet feil"...)

Hva skriver man for å endre vm.kmem_size?

Hva endret du den til?

Endret 30. august 2010 av TBJ

[Sokkalf™]

Du har sikkert tunet feil

 

Eg har 2 servere heime nå som kjører ZFS, den eine er ein gammal p4 med 2GB ram som kjører i386. Denne krevde litt tuning i starten for å bli stabil. Den er sikkert ikkje enda heilt 100%, men den har ikkje kræsja dei siste månedane enda med X antall TB fram og tilbake.

 

Server 2 som kjører AMD64 med 6GB ram har for det meste vore stabil. Eg fikk ein kernel panic og fekk eit tips om å endre vm.kmem_size til 50% meir av minnet enn det ein eigentleg har. Då har det vore 100% stabilt

Resten av innstillingane på AMD64 er då på auto.

 

Og ytelsen er heilt rå

 

Vel, jeg tunet den i flere døgn før jeg til slutt ga opp, og prøvde alle mulige varianter av vm.kmem_size. Den fikk panic etter kun 5-40GB med overførte data. Hver gang.

 

Med 8GB har jeg så langt jeg kan se ikke trengt noe tuning, og overførte 1.3TB i ett jafs uten problemer. Usikker på om det faktisk er minnet, eller at jeg har bumpet versjonen til 8.1. Mistenker også at en del av problemet kan ligge i diskene, som var WD Green 1,5TB med ufyselig ytelse, som nå er erstattet med Hitachi-disker med knall ytelse. Mulig en eller annen buffer gikk full mens den ventet på IO til diskene med de gamle, da skriveytelsen var så lav som 10MB/sec til tider.

[siDDis]

SSH.. Tenkte ikke på det. Putty. Jaja. Kanskje...

Grensesnittet til FreeNAS tiltaler mitt kunnskapsnivå mye bedre, men FreeBSD er vel neppe uoverkommerlig (men tiden rekker ikke i denne omgang).

 

Jeg vurderer veldig sterkt å kjøpe 4x1GM ram. Det er max. av hva hovedkortet støtter.

Jeg vil ikke (enda) bruke så mye mer penger på serveren.

Det som lokket meg over til FreeNAS var at den ikke trenge så rå hardware, men det ser ut som mitt bruke krever litt mer enn "minimum".

 

Jeg har ingen mål om å kjøre dette som et iSCSI-target (ei heller ZFS), men ut i fra alt jeg har lest de siste ukene virket det veldig fristene.

Mulig jeg nå går til det mer enkle, slik at det i det miste fungere, så kan jeg heller "kose" meg med div. prøving og feiling i ukene som kommer.

 

Men jeg prøver i alle fall én dag for å få dette opp slik.

 

 

Server 2 som kjører AMD64 med 6GB ram har for det meste vore stabil. Eg fikk ein kernel panic og fekk eit tips om å endre vm.kmem_size til 50% meir av minnet enn det ein eigentleg har. Då har det vore 100% stabilt

Resten av innstillingane på AMD64 er då på auto.

 

Og ytelsen er heilt rå

(missunnelig)

Jeg får kjøpe mer ram (evt. kjøre ram test hvis jeg ikke får tak i billig ram innen KORT tid).

 

Jeg har ikke tunet den noe (det er kanskje det du mener med "tunet feil"...)

Hva skriver man for å endre vm.kmem_size?

Hva endret du den til?

 

Eg har ingen anelse kva FreeNAS har som standardinnstillinger. Er derfor eg anbefaler deg å lære FreeBSD, starter du nå så skal du ha den oppe og kjøre i løpet av 2-3 timer med ZFS og Samba.

 

For å ta dei korte stega

 

Installer FreeBSD

 

Skru på SSH

http://www.freebsd.org/doc/handbook/openssh.html

 

Skru på DHCP, der namnet på nettverkkortet er fxp0(du finner det med kommandoen ifconfig)

echo "ifconfig_fxp0="DHCP" >> /etc/rc.conf

 

Så ZFS og Samba stega

 

http://wiki.freebsd.org/ZFSQuickStartGuide

 

Samba:

cd /usr/ports/net/samba34
make install clean

echo samba_enable="YES" >> /etc/rc.conf
echo nmbd_enable="YES" >> /etc/rc.conf
echo smbd_enable="YES" >> /etc/rc.conf
echo winbindd_enable="YES" >> /etc/rc.conf
echo cupsd_enable="YES" >> /etc/rc.conf

/usr/local/etc/rc.d/samba start

 

Til slutt legg dette til i samba konfigurasjonsfila (Kort introduksjon til vi, i er insertmode, for å lagre trykk først escape også :wq! )

vi /usr/local/etc/smb.conf

 

Fjern all tekst og skriv inn dette:

 

[global]

workgroup = WORKGROUP

server string = Samba Server

log file = /var/log/samba/log.%m

max log size = 50

min receivefile size = 131072

socket options = SO_KEEPALIVE TCP_NODELAY IPTOS_LOWDELAY IPTOS_THROUGHPUT

use sendfile = Yes

wins support = Yes

hosts allow = 192.168.1. 192.168.2.

 

[sharedfolder]

comment = Share folder

path = /home/olav/share

valid users = olav

write list = olav

read only = No

writable = yes

create mask = 0765

 

Til slutt lag samba brukarar: (adduser lager unix bruker som samba trenger.)

adduser truls
smbpasswd –a truls 

 

Anna eksempel på Samba er her: http://freebsdrocks.net/index.php?option=com_content&task=view&id=45&Itemid=25

 

Meir jobb er det ikkje

[TBJ]

Hei siDDIs og takk for en fin oppskrift

 

Hodet mitt er "for hardt kjørt" nå til at jeg orker å begynne på FreeBSD. Kanskje neste uke?

 

Men jeg har egentlig ikke helt forstått fordelen av FreeBSD kontra FreeNAS. Kun at FreeNAS kjører på eldre versjon av FreeBSD (?).

 

Prøver litt til med FreeNAS. En krasj til og jeg tester FreeBSD (med Win2003 som backup hvis alt skulle gå "til skogen").

 

Har vært ute og skaffet "ny" RAM (1x4GB) som er max av hva hovedkortet klarer.

Også kjøpt 4GB USB pinne, som jeg tenkte å fordele 1GB til OS og 3GB til Swap (Håper det holder).

 

 

Skal først kjøre Memtest.

Memtest: http://www.memtest.org/

Takk for linken, tingo

Endret 30. august 2010 av TBJ

[kpolberg]

Mistenker også at en del av problemet kan ligge i diskene, som var WD Green 1,5TB med ufyselig ytelse, som nå er erstattet med Hitachi-disker med knall ytelse. Mulig en eller annen buffer gikk full mens den ventet på IO til diskene med de gamle, da skriveytelsen var så lav som 10MB/sec til tider.

http://www.osnews.com/story/22872/Linux_Not_Fully_Prepared_for_4096-Byte_Sector_Hard_Drives

[Sokkalf™]

Mistenker også at en del av problemet kan ligge i diskene, som var WD Green 1,5TB med ufyselig ytelse, som nå er erstattet med Hitachi-disker med knall ytelse. Mulig en eller annen buffer gikk full mens den ventet på IO til diskene med de gamle, da skriveytelsen var så lav som 10MB/sec til tider.

http://www.osnews.com/story/22872/Linux_Not_Fully_Prepared_for_4096-Byte_Sector_Hard_Drives

 

Løste dette problemet da jeg brukte diskene under linux, ved å aligne partisjonene skikkelig og bruke RAID-10. Fikk aldri til å få alignet stripe size i RAID-5, så der fikk jeg ikke bra ytelse. Kunne kanskje vært løst med mer prøving og feiling enn jeg gadd, men i ZFS med sin variable stripe size tror jeg disse diskene er nærmest umulig å få til å virke skikkelig i en RAID-5-lignende konfigurasjon.

 

(Forøvrig også mulig at det var LVM som ødela for meg under RAID-5 i linux, stripe size jeg brukte var jo definitivt delelig med 4K)

Endret 31. august 2010 av Sokkalf™