Matematik
Maple - afrundings fejl
Jeg har et underligt problem med maple hvor den ikke vil afrunde som jeg vil have det.
F.eks. hvis jeg skal beregne:
Hvis jeg gerne vil have det med 3 betydende cifre, så bruger jeg
Men det giver 0,707!
Men hvis jeg beder den om at give 4 betydende cifre får jeg:
Hvordan får jeg den til ikke at runde ned til 0,705?
- Jeg har prøvet at gå ind i options>tools>precision og bede den om kun at skrive 3 decimaltal, og så bede om 4 betydende cifre. For så giver den mig nemlig det rigtige resultat - men det skaber problemer senere i dokumentet! Så jeg har brug for en anden løsning.
Svar #1
29. marts 2012 af emde93 (Slettet)
Kan du ikke bare regne med 4 cifre? det er jo alligevel kun de første 3 som indgår i beregningerne så?
Og ellers kan du lade være med at skrive evalf, men blot højreklikke på dit output>Numeric Formatting>Fixed>3 også skulle den meget gerne skrive ,707 som output, og selvom der ikke står 0 foran kommaet, og det er et komma og ikke punktum som bruges som "komma", så regner den med 0.707, så det går udelukket ud over udseendet.
Svar #3
29. marts 2012 af NejTilSvampe
#1 - tak for forsøget, men jeg er ikke fan af den løsning - det er ret grimt med det komma der. Og nej jeg kan ikke bare bruge 4 cifre.
#2 - det gav mig nøjagtig det samme resultat =0.705
Svar #4
29. marts 2012 af NejTilSvampe
Okay glem det, #2- virkede efter at jeg genstartede serveren =)
Så tusinde tak for hjælpen gutter
Svar #5
29. marts 2012 af NejTilSvampe
#2 - Kan det lade sig gøre at lave den kommando under "Apply command" - så koden ikke vises direkte i dokumentet?
Skriv et svar til: Maple - afrundings fejl
Du skal være logget ind, for at skrive et svar til dette spørgsmål. Klik her for at logge ind.
Har du ikke en bruger på Studieportalen.dk?
Klik her for at oprette en bruger.