oo calk tolker talverdier feil

[sinnaelgen]

jeg har oppdaget noe merkelig med open ofice sit regneark.

 

man har funksjonen finn.rad og finn.kolonne.

som man kan bruke til å finne tekst eller andre verdier med.

 

 

i en kolonne i dette regnearket her jeg noen beregninger ( altså ikke innskrevet verdier).

 

problemet er at når jeg bruker finn funksjonen så tolkes ikke disse verdiene helt rett.

 

beregningene er i kolonne S og verdien der er mellom 0 og 6.

finn.rad funksjonen som ser slik ut : =FINN.RAD(S187;AB$2:AG$9;2;1) tolker

0 som 0

1 som 0

2 som 2

3 som 3

4 som 3

5 som 4

6 som 6

 

hvorfor skjer dette ?

 

selv om jeg kan skrive inn samme tallet i stedet for beregningen så er det tungvindt og unødvendig å måtte gjøre det for at det skal tolkes rett.

[Harald Staff]

Det er nok beregningen din som returnerer f.eks. 3,998 eller 3,9999999999999... istedetfor 4. Desimaler forsvinner ikke selv om du formaterer til å skjule eller avrunde.

 

Prøv f.eks en avrundfunksjon dersom du jobber tilsynelatende uten desimaler:

FINN.RAD(AVRUND(S187;0);AB ... osv

 

Merk også at siste formelargument 1 i FINN.RAD ikke betyr eksakt treff. Sjekk Hjelp om dette.

 

HTH. Beste hilsen Harald

[sinnaelgen]

nå har det endret seg .

det er andre verdier mellom 0 og 6 som blir tolket feil . noen av de som ble tolket feil i stad ser ut til å bli tolket rett.

 

nå ser det også ut til at verdien regnes eksakt . 6 er altså 6.00.

men hvis det har noen med at det ikke er et heltall så kan jeg forsøke med en funksjon som ordner det

 

 

men hvorfor blir HELTALL(Z190) 5.00 når verdien i kolonne rute z190 er 6.00 ?

Endret 27. mai 2010 av den andre elgen

[Harald Staff]

Regneark er ikke WYSIWYG. Du kan ikke vite at verdien av en beregning er 6,00 bare fordi cella er formatert til å vise to desimaler, resultatet kan meget godt være 5,996318 eller whatever innenfor gjeldende avrundingsregler. Du kan altså ikke stole på det du ser når det gjelder nøyaktighet.

 

Heltall fjerner desimalene, og da blir overstående 5.

 

I tillegg kan uoverensstemmelser oppstå mellom binært og desimalt tallformat. Les denne

http://www.cpearson.com/excel/rounding.htm

skrevet for Excel97 dengang, men gyldig for alle regneark.

 

HTH. Beste hilsen Harald

[sinnaelgen]

når man har et desimaltall som fremstår som 6.00 med 2 desimaler så kan det også være 6.001 eller 6.0009

hvis verdien vises som 6 så kan det enten være 5.99 eller 6.01.

 

 

siden jeg skulle regne tilbake til noen fordi disse tallen var konverter fra noe

så delte jeg den første verdien

og gjorde den til et heltall i neste kolonne

så trakk jeg vekk heltallsverdien og satt tilbake med desimalverdien

desimalverdien ble så regnet tilbake til heltallsverdien.

 

da var talverdien mellom 0 og 6 plukket ut

du mer da at tallet jeg sitter med kan være like under 6 selv om det vises som 6.00 i ruten.