Excel - Unøyaktig svar på enkle regnestykker

[deaktivert443556]

Jeg irriterer meg grønn over det jeg mener må være en feil i Excel. Det er fint om noen gidder å sjekke dette for å se om dette faktisk gjelder alle.

 

Åpne et nytt regneark og skriv =1,2-1,1

De fleste vil lett kunne regne seg frem til at svaret skal bli 0,1, og det er også det du ser i utgangspunktet med standard antall desimaler i cellen. Hvis du derimot øker antallet desimaler, da endres svaret etter hvert fra 0,100000000000000 til 0,09999999999999990. Du kan også se dette kjappere ved å trykke F9 mens du redigerer formelen.

 

En såpass liten differanse er i utgangspunktet betydningsløs, men den kan virkelig skape hodebry i enkelte situasjoner. I A1, skriv =1,2-1,1 og i A2, skriv =1,3-1,2. Hvis du da i A3 skriver =A1=A2, da skal vel denne formelen returnere SANN, men det gjør den ikke. Den viser heller USANN selv om svaret skal være nøyaktig 0,1 i begge cellene. En workaround er å heller skrive =HVIS(STØRST(A1:A2)-MIN(A1:A2)<0,00001;SANN;USANN), men det burde ikke være nødvendig...

 

Jeg bruker Excel 2003 og jeg er spent på å høre om problemet også finnes i 2007 og 2010. Merk at man får ikke alltid rare resultat i slike regnestykker. 1,3-1,2 blir faktisk akkurat 0,1 mens 1,2-1,1 altså ikke blir det. Med 1,4 som eksempel får vi:

 

1,4-1,0 = 0,4

1,4-1,1 = 0,3

1,4-1,2 = 0,2

1,4-1,3 = 0,09999999999999990

[Jann - Ove]

Dette er en konsekvens av IEEE 754-standarden. Jobb rundt det, eller behandle tallene i et program med mulighet for perfekt numerisk presisjon.

 

http://blogs.msdn.com/b/excel/archive/2008/04/10/understanding-floating-point-precision-aka-why-does-excel-give-me-seemingly-wrong-answers.aspx

[Harald Staff]

Dette handler ikke om Excel eller Excelversjon, men om overgangene mellom desimale og binære tall. På samme måte som det ikke finnes et desimaltall som representerer eksakt 1/3, finnes ikke et binærtall som eksakt representerer 1/10. Se

http://www.cpearson.com/Excel/rounding.htm for bakgrunn og mer teori.

 

Så jo, det er nødvendig å ta høyde for ørsmå avvik i formler som sammenligner tall. Du kan velge en setting i excelfilen som heter "presisjon som vist" (i verktøy > alternativer) hvis dette fortsetter å irritere deg, men det er primitivt og frarådes sterkt.

 

HTH. Beste hilsen Harald

[deaktivert443556]

Hmm, ok. Takk til begge.