floating-point

10Hitze

3Antwort

Portable Serialisierung von Gleitkommawerten nach IEEE754

Ich habe kürzlich an einem System gearbeitet, das große Datenmengen speichern und laden muss, einschließlich Gleitkommawerte mit einfacher Genauigkeit. Ich entschied mich für Netzwerk-Byte-Reihenfolge

c floating-point portability ieee-754 endianness 2012-05-16

---

7Hitze

1Antwort

JSON.parse analysiert/konvertiert große Zahlen falsch

Mein Problem ist wirklich einfach, aber ich bin mir nicht sicher, ob es eine "native" Lösung mit JSON.parse gibt. Ich erhalte diese Zeichenfolge aus einer API: { "key" : -922271061845347495 } Wenn i

javascript json floating-point numbers 2012-05-17

---

5Hitze

4Antwort

Float in Bits konvertieren

Wie kann ich einzelne Bits (oder eine ganze Variable) von double oder float erhalten? Zum Beispiel, wenn ich habe float a = 0,5; "00111111000000000000000000000000" oder in hex: würde ich ein String gl

java floating-point double 2012-05-17

---

20Hitze

1Antwort

Auf die nächste ganze Zahl runden

Gibt es eine offizielle Spezifikation für die Funktion round in Haskell? In GHCi Version 7.0.3 Ich sehe das folgende Verhalten: ghci> round (0.5 :: Double) 0 ghci> round (1.5 :: Double) 2 Da beid

haskell floating-point 2012-05-24

---

10Hitze

3Antwort

IEEE Std 754 Fließkommazahl: let t: = a - b, garantiert der Standard, dass a == b + t?

Angenommen, t, a, b sind alle Doppel (IEEE Std 754) Variablen, und beide Werte von a, b sind NICHT NaN (aber Inf sein kann). Muss ich nach t = a - b unbedingt a == b + t haben?

c++ c floating-point ieee-754 2012-05-29

---

19Hitze

8Antwort

float drucken, Präzision erhalten

Ich schreibe ein Programm, das Fließkomma-Literale druckt, die in einem anderen Programm verwendet werden sollen. Wie viele Ziffern muss ich drucken, um die Genauigkeit des ursprünglichen Schwimmers z

c++ c string floating-point floating-accuracy 2012-06-05

---

10Hitze

5Antwort

Sind C-Dotierungen anders als .NET-Doubles?

Vergleicht man einige C-Code und die F # Ich versuche, es zu ersetzen, bemerkte ich, dass es einige Unterschiede im Endergebnis gab. Als ich den Code wieder arbeitete, stellte ich fest, dass es auch U

.net c floating-point 2012-06-05

---

6Hitze

4Antwort

Python Float in int-Konvertierung

Ich habe ein Problem, das mich wirklich verrückt macht. Normalerweise würde int(20.0) zu 20 führen. So weit, ist es gut. Aber: levels = [int(gex_dict[i]) for i in sorted(gex_dict.keys())] während ge

python floating-point 2012-06-05

---

8Hitze

3Antwort

Ist x == x immer falsch in Python?

ich auf dieser Codezeile stolperte in Quelle SciPy ist, in der stats module: return 1.0*(x==x) diese Rückkehr etwas anderes als 1.0 ist? Mit anderen Worten, gibt es irgendeinen Wert von x, so dass x

python floating-point equality 2012-04-21

---

7Hitze

4Antwort

einen String-Formatierung Scientific Notation entfernen - Java

ich den folgenden Code haben, der eine Reihe von Zahlen spaltet (durch ein Leerzeichen getrennt) und erstellt dann eine Reihe von Schwimmern: //Split the string and then build a float array with the v

java string floating-point bigdecimal 2012-05-09

---