Warum funktioniert sqrt (4) - 2 gleich -8.1648465955514287168521180122928e-39 bei Verwendung des Windows-Rechners?

Mögliche Duplizieren:
How is floating point stored? When does it matter?Warum funktioniert sqrt (4) - 2 gleich -8.1648465955514287168521180122928e-39 bei Verwendung des Windows-Rechners?

Mit dem integrierten Taschenrechner auf meinem Win7 x64 erhalte ich die Nummer -8.1648465955514287168521180122928e-39, wenn die Berechnung sqrt(4)-2.

Ich würde erwarten, das Ergebnis 0.

Quelle

2012-04-10 Matthias Braun

Standardrundungsfehler ... – Mysticial

Was ist mit 'sqrt (4) -2' zu runden? –

Wie wird Ihrer Meinung nach das sqrt (4) bewertet? –

Es gibt einige Fehler mit Gleitkommazahlen sein, wenn Sie gehen, um sie gelegentlich zu subtrahieren. Sie können eine Darstellung erhalten, die 0 oder wirklich nahe bei 0 ist (10^-39 ist ziemlich nah).

Weitere Informationen finden Sie unter Fractions in Binary auf Wikipedia.

Quelle

2012-04-10 22:27:47 Makoto

Danke. Ich wusste nicht, wie Brüche im Binärsystem dargestellt wurden. Diese [link] (http://en.wikipedia.org/wiki/IEEE_754-1985) half ebenfalls. –

Warum funktioniert sqrt (4) - 2 gleich -8.1648465955514287168521180122928e-39 bei Verwendung des Windows-Rechners?

Antwort

Verwandte Themen