Dårlig performance på fil server på vmware 3.5

[pelsner]

Hei

 

Jeg fasa akkurat ut en filserver vi hadde til en 2008 server x64 .

 

Den booter fra et SAN som har satt opp to stk Raid 5 med 9 disker i hver pool.

Selve lagrings område til lager serveren har et dedikert LUN som er det ene raid 5 oppsettet til filer, men den booter fra et annet LIN.

 

Det jeg merker meg er at det går veldig mye tregere å kopiere filer, gjerne da mange småfiler.

 

Browsing går raskere, men dette er sikkert pga win 2008 har bedre indeksering.

 

Jeg merker meg at CPU loaden går veldig høyt i forhold til det den bør gjøre når jeg tester fil kopiering.

 

TCP load tabellen ser slik ut :

 

TCP Global Parameters

----------------------------------------------

Receive-Side Scaling State : enabled

Chimney Offload State : disabled

Receive Window Auto-Tuning Level : normal

Add-On Congestion Control Provider : ctcp

ECN Capability : disabled

RFC 1323 Timestamps : disabled

 

Denne VMen har kun ett intern nettverkskort, men vswitchen har to .

Denne serveren vil vel bare utnytte seg av 1 GB likevel, dette kan kanskje være flaskehalsen?

 

Noen som har noen tips om hva jeg bør gjøre?

[Demantios]

Er det like tregt fra filer "lokalt" på filserveren som dem i SAN'et?

[pelsner]

Er det like tregt fra filer "lokalt" på filserveren som dem i SAN'et?

 

Ja det kan se ut som det er ikke er noen forskjell..

 

Jeg lastet opp bilde av cpu belasting da jeg testet noen filer frem å tilbake.

 

At jeg alene klarer belaste cpuen så mye kan ikke være særlig bra.

 

Nå fikk jeg riktignok ca 90 MB per sekund på de filene jeg prøvde på, men med engang det er flere småfiler faller ytelsen drastisk.

Endret 29. september 2008 av pelsner

[wsp]

Gigabitlinken er vel neppe noen flaskehals siden du bare har 18 disker. RAID5 er forøvrig ikke optimalt for god ytelse når man har små filer (men bra for kjapp lesing store av filer).

 

Du bruker softwareinitiator? iSCSI hba?

Fra hvilken type boks har du testet ytelsen? Lokalt? Vista? XP? Linux?

Ser du allerede har slått av Chimney, noe som kan gi dårligere ytelse mot VistaSP1, men bedre mot XP.

 

Hva slags SAN er det du bruker? Hvor mye RAM har det per kontroller? Har du prøvd å kjøre iometer for å se hvilken ytelse du får?

 

Lars

[Demantios]

Det der er på serveren tilsammen eller kun den virtuelle maskina? Og hvor kraftig hardware har den?

 

Kjører selv 5servere på denne esx-serveren og cpuen hopper ikke så mye som din. Men så har vi kraftig hw her også dam, vet ikke hva du har

[wsp]

Kunne du også vise oss et skjermbilde fra esxtop (disk view, og slå på latencyvisning) når du har litt last med kopiering av småfiler?

 

Lars

[pelsner]

Takk for svar så langt.

 

Jeg kommer straks med mer info og grafer

[pelsner]

1. Den serveren lager serveren kjører på har 3 VMs per dags dato. Dette er Domenekontroller, en mediaserver som nesten ikke er i bruk og nevnte lager/print server.

 

2. Harware :

 

Dell poweredge 2950: 32GB ram,4x Xeon 5130@2Ghz

San er EMC AX4-5.

 

3. Vi har fiberkort i alle hostene så det brukes ingen software initiatore.

 

4. Systemet jeg har testet mot er både vista SP1 og xp sp3.

Merker at innlogging går tregere enn før og kopiering av småfiler går tregt.

 

 

Jeg prøvde nå kopiere en del(5 500)småfiler på tilsammen 82 meg.. På disse filene får jeg kun 755 kb per sek.. prøver jeg derimot en stor fil på ca 600 meg får jeg ca 20 meg per sekund.

 

Legger ved noen filer av esxtop(vet ikke om det er de verdiene du ser etter).

 

Jeg testet nå med Vista SP1. (Bare kopierte fra min lokale pc til filområde på lager serveren).

 

Jeg har 1gb link rett inn så min forbindelse er ingen flaskehals.

[wsp]

Hei!

Dette var egentlig ikke helt riktige tall, men jeg kan allerede se at du ikke har optimal ytelse. Feltet %RDY forteller hvor stor andel den virtuelle maskinen ikke får den cpu-tilgangen den trenger. Alt over 5% er regnet for å være dårlig.

 

Hvor mange vcpu'er har du gitt dine virtuelle maskiner?

 

For å få de tallene jeg var ute etter:

start esxtop, press 'd' for å komme til diskmodus og deretter 'fij' for å få fram ekstra felter. Håper du har en widescreenskjerm så du kan se alle feltene bortover. Den viktigste verdien her er DAVG. Se på denne verdien litt over tid mens du kopierer så du ikke tar med en peak-verdi.

 

Hvilke disker har du på SAN'et ditt? Anbefaler også at du kjører iometer slik jeg linket til over. Da kan du også sammenligne ytelsen din med andre i den samme tråden der.

 

Lars

Endret 29. september 2008 av wsp

[pelsner]

Hei!

Dette var egentlig ikke helt riktige tall, men jeg kan allerede se at du ikke har optimal ytelse. Feltet %RDY forteller hvor stor andel den virtuelle maskinen ikke får den cpu-tilgangen den trenger. Alt over 5% er regnet for å være dårlig.

 

Hvor mange vcpu'er har du gitt dine virtuelle maskiner?

 

For å få de tallene jeg var ute etter:

start esxtop, press 'd' for å komme til diskmodus og deretter 'fij' for å få fram ekstra felter. Håper du har en widescreenskjerm så du kan se alle feltene bortover. Den viktigste verdien her er DAVG. Se på denne verdien litt over tid mens du kopierer så du ikke tar med en peak-verdi.

 

Hvilke disker har du på SAN'et ditt? Anbefaler også at du kjører iometer slik jeg linket til over. Da kan du også sammenligne ytelsen din med andre i den samme tråden der.

 

Lars

 

Jeg har 15K 300gb SAS disker i SANet.

 

Lager serveren har nå tildelt 4 stk vcpuer( dette tror jeg kan være en av feilene)

Domenekontroller har 2stk vcpuer.

Mediaserver har 2stk vcpuer.

VCserver har 1 stk vcpu ( denne skal skrus av og er ikke i bruk lenger)

 

Jeg så på DAVG imens jeg kopierte samme mengde småfiler nå: Denne gikk fra ca 0.79 til 1.20.

 

Jeg skal prøve iometer imorgen.

[wsp]

Latency ser bra ut. Blir spennende å se hvilke tall iometer gir deg.

 

Prøv også å gi filserveren din 1 vcpu. Ideelt bør du da også bruke en unicpu HAL, men jeg er litt usikker på hvordan dette er på w2k8.

 

Lars

[pelsner]

Provde a sette ned til en vcpu og dette saa ut som ikke hadde noen negativ eller positiv virkning..

 

Men vi bruker symantec backup exec til aa ta backup av filer pa serveren. Sa cps prosessen tok veldig mye cpu nar man har pa at den skal ta backup naar filer endres. Dette loste seg ved a sette opp cpsen automatisk.

 

Kjorer ogsa trend micro pa selve filserveren. Dette trodde jeg kunne ha noe aa si for ytelsen , men det virket ikke slik i forste omgang.

 

Jeg rakk bare kjore et par iometer tester paa servern for jeg hoppa paa flyet til Australia.

 

Jeg skal poste det jeg finner ut naar jeg kommer tilbake fra ferie

[Gjest member-1768784]

 -

Endret 10. april 2017 av member-1768784

[wsp]

Å øke queue depth har en helt klar positiv innvirkning hvis man har konstant io-kø, men kan gjøre ytelsen dårligere hvis man ikke har så tung last.

 

Lars

[paulsen]

Dette var en rimelig fantastisk tråd, har lenge tenkt på å få monitorert/optimalisert ytelsen på våre ESX-servere som bruker FC SAN.

 

[CrZy_T]

Ligger tregheten i skriving, lesing eller er begge deler tregt?

[paulsen]

Byttet til enchaned vmxnet -driveren på vår Windows 2008 64bit-server, herre jesus for en ytelsesforskjell! Kopierer filer med 100MB/s, noe som er tilnærmet maks overføringshastighet ved bruk av TCP.

 

Anbefaler alle å gjøre samme på filservere!

[wsp]

Anbefaler alle å gjøre samme på filservere!

 

Installasjon av VMware Tools er anbefalt uansett type server. I eldre versjoner av VMware Tools er det heller ikke støtte for denne driveren i 64-bit windows, så det er viktig å være på en relativt ny versjon; spesielt om man kjører 64 bit.

 

Lars

[paulsen]

Anbefaler alle å gjøre samme på filservere!

 

Installasjon av VMware Tools er anbefalt uansett type server. I eldre versjoner av VMware Tools er det heller ikke støtte for denne driveren i 64-bit windows, så det er viktig å være på en relativt ny versjon; spesielt om man kjører 64 bit.

 

Lars

 

Hadde VMware Tools installert, men driveren var fortsatt satt til E1000. Kan sikkert være fordi serveren ble installert med eldre versjon av ESX/Tools.

 

Erik

[pelsner]

Anbefaler alle å gjøre samme på filservere!

 

Installasjon av VMware Tools er anbefalt uansett type server. I eldre versjoner av VMware Tools er det heller ikke støtte for denne driveren i 64-bit windows, så det er viktig å være på en relativt ny versjon; spesielt om man kjører 64 bit.

 

Lars

 

Hadde VMware Tools installert, men driveren var fortsatt satt til E1000. Kan sikkert være fordi serveren ble installert med eldre versjon av ESX/Tools.

 

Erik

 

Høres ut som et godt tips, jeg ser min server fortsatt er på E1000, men kjører win x64 2008 Server.