ieee-754

-5Hitze

2Antwort

Ich wusste, dass 0.1D + 0.2D == 0.30000000000000004D - warum 0.1D + 0.1D == 0.2D?

Weder 0.1d, 0.2d oder 0.3d können exakt binär dargestellt werden. Warum ist 0.1D + 0.1D == 0.2D in Java true? die 64-Bit-Binärzahl ist, wie wird 0.1.0.2,0.3 ????? Wo ist der Code?

java floating-point ieee-754 2016-03-22

---

1Hitze

1Antwort

HBase Bytes.toBytes - ist die Ausgabe ordinal?

Ich benutze org.apache.hadoop.hbase.util.Bytes.toBytes(T). Ich speichere die Ausgabe dieser Funktion in einem Wert in HBase und möchte dann Vergleichsoperationen darauf verwenden (CompareOp.GREATER, C

java hadoop hbase decimal ieee-754 2016-03-27

---

0Hitze

1Antwort

Wie kann ich IEEE 754-Nummern subtrahieren?

Ich möchte wissen, wie IEEE 754-Nummern subtrahieren, also habe ich darüber gesucht und diese Antwort gefunden: How to subtract IEEE 754 numbers?, und es funktioniert gut mit allen Beispielen, die ich

math floating-point ieee-754 2016-04-09

---

-1Hitze

3Antwort

Denormalisierung IEEE

Ich arbeite an einem Digital Design-Projekt (Verilog) mit IEEE-Doppelpräzisions-Gleitkomma-Standard. Ich habe eine Frage in Bezug auf IEEE Floating Number Darstellung. In der IEEE Fließkommadarstellun

floating-point verilog ieee-754 digital-design 2016-04-13

---

0Hitze

1Antwort

Bogus Parsing/Eval von komplexen Literalen

Bei der Auswertung von komplexen Zahlen, Python gerne die Zeichen geige. Dies ist Python 3.5.0 (aber ähnlich seltsame Probleme in Python existieren 2) >>> -0j (-0-0j) >>> (-0-0j) 0j Warum? nb: Ic

python parsing ieee-754 complex-numbers 2016-04-13

---

1Hitze

1Antwort

Gibt es eine Möglichkeit, eine Gleitkommazahl ohne ldexp zu erstellen?

Ich versuche, eine IEEE754 Fließkommazahl mit dem Vorzeichen, Exponent und Mantisse zu erstellen, aber ich kann nicht scheinen, die ldexp() -Funktion auf meinem Computer zu arbeiten, also habe ich mic

c++ ieee-754 2016-04-17

---

2Hitze

2Antwort

Wie Mantisse in Python zu berechnen, wenn der Exponent Hit auf -127

Ich habe eine Standortinformation in HEX Zeichenfolge. Ich muss es in IEEE-754-Protokoll in Floating-Integer konvertieren. Also schrieb ich diesen Code Zeichen der Zahl zu finden, berechnen Exponenten

python floating-point ieee-754 exponent 2016-04-19

---

0Hitze

2Antwort

Fließkomma-Arithmetik

Ich lese über Fließkomma- und Rundungsfehler, die während der Fließkomma-Arithmetik auftreten. Ich lese viele Artikel auf IEEE 754-Single Precision/Double Precision-Format. Ich verstehe, dass es Vorze

floating-point ieee-754 2016-04-28

---

1Hitze

1Antwort

Welche IEEE-Standardeinstellungen verwendet SQLLite zum Speichern von REAL-Werten? Wird IEEE 754 doppelt verlustfrei gespeichert?

Es gibt zwei verschiedene IEEE-Standards für die Fließkommaberechnung. IEEE 754 (b = 2) und IEEE 854 (b = 2 oder b = 10). SQLLite wiki sagt: REAL. Der Wert ist ein Gleitkommawert, der als 8-Byte-IEEE-

ieee-754 2016-04-29

---

1Hitze

1Antwort

Bereich der Fließkommazahl

Ich las "Was jeder Informatiker über Fließkommaarithmetik wissen sollte" und stieß auf etwas, das ich nicht verstehe. Paper behauptet, dass für gegebene B und E (Basis und Exponent) der Maximalwert de

floating-point floating-accuracy ieee-754 fpu 2016-05-02

---