ieee-754

7Hitze

1Antwort

Konvertierung von Float32Array zu Uint16Array in WebGL

Ich habe Float32Array Texturen, die über WebGL korrekt angezeigt werden können. Als ich jedoch versuchte, sie in Uint16Array umzuwandeln, tritt das Problem auf. Hier ist mein Umwandlungsteil. var _flo

javascript webgl ieee-754 typed-arrays 2015-05-07

---

13Hitze

1Antwort

Warum ergibt GCC -nan und clang und Intel + nan für 0.0/0.0?

Als ich Code debugging, fand ich, dass GCC und Clang beide für 0.0/0.0 nan liefern, was ich erwartete, aber GCC ergibt eine Nan mit dem Vorzeichen Bit auf 1 gesetzt, während Clang es auf 0 setzt (in Ü

c++ gcc nan ieee-754 2015-08-26

---

8Hitze

1Antwort

IEE 754 Gesamtauftrag in Standard-C++ 11

Gemäß der IEEE floating point Wikipage (auf IEEE 754), gibt es eine total order auf doppelte Genauigkeit Gleitpunkte (dh auf C++11 Implementierungen IEEE-754 Hin- und Herbewegungen hat, wie gcc 4.8 au

c++11 ieee-754 2013-11-20

---

5Hitze

1Antwort

Intel-Architektur und IEEE 754-Konformität (minNum und maxNum)?

Ich habe mir das x64-Softwareentwickler-Handbuch angesehen und es sieht so aus, als ob die eingebauten {MIN | MAX} {S | P} {S | D} -Anweisungen die Funktionen minNum und maxNum nicht implementieren im

assembly floating-point x86-64 ieee-754 2015-09-01

---

8Hitze

3Antwort

Warum werden Zahlen mit vielen signifikanten Stellen in C# und JavaScript anders behandelt?

Wenn JavaScript-Nummer und C# -Doppel gleich spezifiziert sind (IEEE 754), warum werden Zahlen mit vielen signifikanten Ziffern anders behandelt? var x = (long)1234123412341234123.0; // 12341234123412

javascript c# ieee-754 2015-05-27

---

10Hitze

1Antwort

Welcher numerische Algorithmus wird vereinfacht, indem sqrt (-0.0) als -0.0 definiert wird?

Der IEEE-754-Standard definiert die Quadratwurzel des negativen Null als negative Null. Diese Auswahl ist leicht genug zu rationalisieren, aber andere Möglichkeiten, wie zum Beispiel sqrt(-0.0) als Na

floating-point ieee-754 2013-10-07

---

9Hitze

1Antwort

Schnellster Algorithmus zur Identifizierung des kleinsten und größten x, der die Doppelpräzisionsgleichung x + a == b true

Im Rahmen der statischen Analyse bin ich daran interessiert, die Werte von x im Dann-Zweig der Bedingung zu bestimmen unten: double x; x = …; if (x + a == b) { … a und b kann mit doppelter G

c floating-point ieee-754 2014-06-14

---

5Hitze

2Antwort

Wie kann ich in Python auf negative Null testen?

Ich möchte testen, ob eine Zahl positiv oder negativ ist, vor allem auch im Falle von Null. IEEE-754 ermöglicht -0.0, und es ist in Python implementiert. def test_sign(x): return math.copysign(1,

python ieee-754 2013-10-11

---

5Hitze

3Antwort

Erhalten rohe Bytes eines Schwimmers in Swift

Wie kann ich die raw-Bytes von Float oder Double in Swift lesen? Beispiel: let x = Float(1.5) let bytes1: UInt32 = getRawBytes(x) let bytes2: UInt32 = 0b00111111110000000000000000000000 Ich möchte

swift bitwise-operators ieee-754 2015-04-11

---

6Hitze

1Antwort

NaNs Vergleich gleich in Numpy

das folgende Skript vor: import numpy as np a = np.array([np.nan], dtype=float) b = np.array([np.nan], dtype=float) print a == b a = np.array([np.nan], dtype=object) b = np.array([np.nan], dtyp

python numpy nan ieee-754 multidimensional-array 2014-11-29

---