floating-accuracy

6Hitze

3Antwort

Kann sich eine Berechnung von Gleitkommazahlen auf verschiedenen Prozessoren unterscheiden? (+ Passing doubles zwischen C# und C)

Ich habe eine Anwendung geschrieben in C#, die auch einige C-Code aufruft. Der C# -Code erhält einige doppelte Eingaben, führt einige Berechnungen durch, übergibt sie an die native Ebene, die ihre eig

c# c floating-point floating-accuracy 2010-02-25

---

8Hitze

7Antwort

Warum sagt Ghci, dass 1.1 + 1.1 + 1.1> 3.3 wahr ist?

Ich habe dieses Verhalten vor kurzem durch eine Haskell Tutorial gegangen und dann bemerkt, wenn einige einfache Haskell Ausdrücke in der interaktiven ghci Shell versucht: Prelude> 1.1 + 1.1 == 2.2 T

haskell floating-accuracy ghci 2010-01-10

---

19Hitze

6Antwort

Gibt es einen Gleitkommawert von x, für den x-x == 0 falsch ist?

In den meisten Fällen verstehe ich, dass ein Gleitkomma-Vergleichstest über einen Bereich von Werten (abs (x-y) < Epsilon) implementiert werden sollte, aber bedeutet Selbstsubtraktion, dass das Ergebn

floating-point floating-accuracy ieee-754 2010-04-21

---

18Hitze

7Antwort

Warum gibt (int) (33.46639 * 1000000) 33466389 zurück?

(int)(33.46639 * 1000000) zurück 33466389 Warum passiert das?

c# floating-point floating-accuracy multiplication 2010-03-11

---

13Hitze

5Antwort

Wie setze ich die Fließkomma-Genauigkeit in Perl?

Gibt es eine Möglichkeit, die Gleitkommazahl eines Perl-Skripts auf 3 Stellen zu setzen, ohne sie für jede Variable einzeln ändern zu müssen? Etwas ähnliches wie TCL: global tcl_precision set tcl_pre

perl floating-point floating-accuracy 2009-12-03

---

8Hitze

4Antwort

Fließkommaformatierung in printf()

Ich habe eine Reihe von Fließkommazahlen, wo Daten mit unterschiedlichen Dezimalstellen gespeichert werden, so einige sind 123.40000, , 123.45600 ... jetzt, wenn ich diese Werte in der Zeichenfolge oh

c floating-point floating-accuracy 2009-12-07

---

5Hitze

4Antwort

Exakte textuelle Darstellung eines IEEE "double"

Ich muss eine IEEE 754-1985 double (64-bit) Fließkommazahl in einer von Menschen lesbaren Textform darstellen, mit der Bedingung, dass die Textform wieder hinein geparst werden kann genau die gleiche

floating-point floating-accuracy ieee-754 2010-03-19

---

9Hitze

5Antwort

Wie wandeln Sie Strings mit perfekter Genauigkeit in Floats um?

Ich versuche, eine Funktion in der Programmiersprache D zu schreiben, um die Aufrufe von C zu ersetzen. (Begründung: Um strtold von D zu verwenden, müssen Sie D-Strings in C-Strings konvertieren, was

floating-point d floating-accuracy 2010-02-01

---

17Hitze

5Antwort

C++ Fließkomma-Präzisionsverlust: 3015/0,00025298219406977296

Das Problem. Microsoft Visual C++ 2005-Compiler, 32-Bit-Windows XP sp3, und 64 x2 CPU. Code: double a = 3015.0; double b = 0.00025298219406977296; //*((unsigned __int64*)(&a)) == 0x40a78e0000000000

c++ x86 double floating-accuracy 2010-03-28

---

23Hitze

3Antwort

Wie Java String.format mit einer variablen Genauigkeit?

Ich möchte die Genauigkeit einer doppelten Darstellung in einer Zeichenfolge variieren, die ich basierend auf Benutzereingaben formatiere. Im Moment versuche ich, so etwas wie: String foo = String.for

java string rounding precision floating-accuracy 2010-02-20

---