ieee-754

-6Hitze

2Antwort

a ist ein Double, printf ("% d", a); funktioniert anders in IA32 und IA32-64

Warum funktioniert der folgende Code auf IA-32 und x86-64 völlig anders? #include <stdio.h> int main() { double a = 10; printf("a = %d\n", a); return 0; } auf IA-32, das Ergebnis is

c memory printf ieee-754 stdio 2016-06-13

---

6Hitze

1Antwort

Fragen zu Operationen auf NaN

Mein SSE-FPU folgende NaNs erzeugt: Wenn ich ein jeder Grund Dual-Betrieb wie ADDSD, SUBSD, MULSD oder DIVSD und einer der beiden Operanden ein NaN, das Ergebnis hat das Vorzeichen des NaN-Operanden u

floating-point x86 sse nan ieee-754 2016-06-18

---

5Hitze

2Antwort

Gibt es eine Möglichkeit, eine Zahl zu sehen, darin 64 ist Bit float IEEE754 Darstellung

Javascript speichert alle Zahlen als doppelter Genauigkeit 64-Bit-Format IEEE 754 Werte nach dem spec: Die Typennummer genau 18437736874454810627 (das heißt, 2 -2 +3) Werte, die das doppeltgenauen 64-

javascript binary ieee-754 2016-05-07

---

1Hitze

1Antwort

Klarstellung der Definitionen in IEEE 754

Ich habe Probleme zu verstehen, was bestimmte Begriffe innerhalb IEEE Std 754-2008 (der Standard für Fließkomma-Arithmetik) bedeuten. Einige ihrer Definitionen scheinen etwas zirkulär zu sein, und so

floating-point ieee-754 2016-06-26

---

18Hitze

2Antwort

Fälle, in denen float == und! = Keine direkten Gegensätze sind

In https://github.com/numpy/numpy/issues/6428 scheint die Ursache für den Fehler zu sein, dass bei simd.inc.src:543 ein Compiler !(tmp == 0.) zu tmp != 0. optimiert. A comment sagt, dass diese „nicht

c ieee-754 comparison-operators 2016-07-08

---

3Hitze

1Antwort

C - Hinzufügen von zwei Gleitkommazahlen mit einfacher Genauigkeit, Ergebnis kann nicht unendlich sein

Ich spiele mit Gleitkommaarithmetik, und ich stieß auf etwas, das erklärt werden muss. Wenn Rundungsmodus auf ‚gegen Null‘, auch bekannt als: fesetround(FE_TOWARDZERO); und das Hinzufügen von versch

c floating-point ieee-754 single-precision 2016-05-25

---

0Hitze

1Antwort

Toggle Float-Makro zusammen mit Int * - Was macht es?

Ich versuche, die AKAZE Feature Implementierung in OpenCV und war verblüfft, zu verstehen, wenn ich auf der anderen folgende Makro kam: /* IEEE754 constants and macros */ #define CV_TOGGLE_FLT(x) ((x

c++ opencv casting ieee-754 feature-extraction 2016-07-14

---

5Hitze

2Antwort

Warum kann eine Doppelnummer kleiner als DBL_MIN gedruckt werden?

I zuweisen 0.4543543234343654632452452525254e-323 zu einer double Variable a und drucken Sie es, obwohl es weniger als DBL_MIN ist, kann es noch zugeordnet und gedruckt werden. DBL_MAX: 1.79769e+308

c++ double range ieee-754 2016-05-28

---

2Hitze

2Antwort

Sind JavaScript-Zahlen deterministisch?

JavaScript steht für Zahlen wie IEEE 754, die deterministisch sind. Unterdessen habe ich Argumente gesehen, dass einige Compiler-Optimierungen die Reihenfolge der Fließkommaoperationen ändern können,

javascript ieee-754 2016-06-01

---

16Hitze

2Antwort

Invertierbarkeit der IEEE 754 Gleitkommadivision

Wie lautet die Invertierbarkeit der IEEE 754 Gleitkommadivision? Ich meine, ist es durch den Standard garantiert, dass, wenn double y = 1.0/x dann x == 1.0/y, d. H. x genau Stück für Stück wiederherge

c++ floating-point precision floating-accuracy ieee-754 2016-08-01

---