Gå til innhold

[Løst]uventet resultat av divisjon i Matlab


Anbefalte innlegg

Som dere ser av kodesnutten nedenfor burde resultatet av divisjonen bli 0.3333, men den blir istedet 0. Hvorfor fungerer / som heltalsdivisjon i dette tilfellet, men ikke ellers? Hvordan kan jeg gjøre tilsvarende og få 0.3333 som resultat?

 

>> uint8('1')

ans =

  49

>> (uint8('1')-48)/3

ans =

0

 

Edit: Fant det ut selv. Løsning: double(uint8('1'))

Endret av Lungemannen
Lenke til kommentar
Videoannonse
Annonse

Opprett en konto eller logg inn for å kommentere

Du må være et medlem for å kunne skrive en kommentar

Opprett konto

Det er enkelt å melde seg inn for å starte en ny konto!

Start en konto

Logg inn

Har du allerede en konto? Logg inn her.

Logg inn nå
  • Hvem er aktive   0 medlemmer

    • Ingen innloggede medlemmer aktive
×
×
  • Opprett ny...