ieee-754

5Hitze

1Antwort

Dezimalrechnungen in C oder C++?

Die IEEE-754-Norm definiert Dezimalarithmetik, um Rundungsfehler bei der Verwendung von Gleitkommazahlen der Basis 10 zu vermeiden (siehe zum Beispiel decimal64 on wikipedia). Gibt es eine Möglichkeit

c++ c floating-point rounding ieee-754 2013-07-06

---

14Hitze

4Antwort

Falsches Gleitkomma-Verhalten

Wenn ich das folgende C++ - Programm in einem 32-Bit-PowerPC-Kernel ausführe, der Software-Floating-Emulation unterstützt (Hardwarefließkomma deaktiviert), bekomme ich eine falsche bedingte Auswertung

c++ floating-point embedded-linux ieee-754 powerpc 2013-02-23

---

9Hitze

2Antwort

Ist SSE Fließkommaarithmetik reproduzierbar?

Die x87-FPU zeichnet sich durch einen internen 80-Bit-Präzisionsmodus aus, der oft zu unerwarteten und nicht reproduzierbaren Ergebnissen zwischen Compilern und Maschinen führt. In my search für repro

.net floating-point sse ieee-754 x87 2013-02-28

---

9Hitze

3Antwort

Wie erhalten Python Division von -0.0 und 0.0 zu -Inf bzw. Inf?

Ich habe eine Situation, wo es sinnvoll ist, eine Division von 0,0 oder von -0,0 zu haben, wo ich erwarten würde, + Inf und -Inf als Ergebnisse zu sehen. Es scheint, dass Python genießt eine ZeroDivis

python python-2.7 ieee-754 divide-by-zero 2013-04-25

---

5Hitze

1Antwort

Gibt es ein neutrales Element in IEEE754 im Hinblick auf zusätzlich

Betrachten Sie den folgenden Code double id = ?; double res; long unsigned *res_u = (long unsigned*)&res; long unsigned i; for (i = 0; i < (long unsigned)-1; i++){ double *d1 = (double*)&i;

c floating-point double ieee-754 low-level 2013-04-29

---

50Hitze

1Antwort

Was ist der Unterschied zwischen stillem NaN und NaN?

Ich habe über Gleitkomma gelesen und ich verstehe, dass NaN Ergebnisse von Operationen sein können. aber ich kann nicht verstehen, was genau diese Konzepte sind. Was ist die Differenz? Welcher kann wä

floating-point nan ieee-754 2013-08-08

---

5Hitze

1Antwort

Maximale Anzahl von Dezimalstellen, die sich auf ein Doppel auswirken können

Betrachten Sie Dezimaldarstellungen der Form d1.d2d3d4d5 ... dnExxx wobei xxx ein beliebiger Exponent ist und beide d1 und dn ungleich Null sind. Ist das Maximum n so bekannt, dass es eine dezimale Da

floating-point ieee-754 2013-06-21

---

5Hitze

1Antwort

Gleitkomma-Genauigkeit wieder

Gestern fragte ich eine question darüber, warum ich Genauigkeit in einer Gleitkommaarithmetik verlor. Ich erhielt eine Antwort darüber, wie es aufgrund von Zwischenergebnissen in x87-Registern war. Di

c floating-point floating-accuracy ieee-754 floating-point-precision 2013-03-16

---

6Hitze

1Antwort

Runden von Gleitkommazahlen nach dem Hinzufügen (Wächter, klebrige und runde Bits)

Ich konnte noch nirgendwo im Internet eine gute Erklärung dafür finden, also hoffe ich, dass hier jemand es für mich erklären kann. Ich möchte von Hand zwei binäre Zahlen addieren: 1,001 * 2 1.010,000

floating-point ieee-754 2013-10-02

---

7Hitze

2Antwort

Warum ist realmin> eps (0)?

realmin "gibt die kleinste positive normalisierte Gleitkommazahl in der IEEE-Doppelpräzision zurück". eps(X) "ist der positive Abstand von ABS (X) zu der nächstgrößeren Mangituden-Gleitkommazahl der g

matlab ieee-754 2013-04-04

---