mantissa

5Hitze

1Antwort

Perl Mantisse unterscheidet sich von anderen Doppel

Ich versuche, in einem Schwimmer zu scannen: 13.8518009935297. Die erste Routine ist meine eigene, die zweite ist MacOSX libc strtod, die dritte ist GMP mpf_get_d() die vierte ist perls numeric.c: Per

perl double numeric mantissa 2013-07-30

---

6Hitze

1Antwort

GCC Handling Float Vergleich anders auf verschiedenen Optimierungsstufen

Ich habe einige einfache Code, der zwei Float-Werte zu vergleichen, um ein Problem zu veranschaulichen sehe ich mit GCC-Optimierung und hoffe, jemand kann mir helfen, herauszufinden, warum die Ausgabe

linux gcc floating-point equals mantissa 2010-09-21

---

0Hitze

1Antwort

Gleitkomma-Addition mit LSB-Fehler

Ich implementiere einen Hardware-Doppelpräzisions-Addierer mit Verilog. Während der Verifikationsphase, als ich meine Hardware-Ausgabe mit MATLAB (oder C) doppelt präzisen Additionsausgaben verglichen

rounding point floating mantissa 2016-08-03

---

0Hitze

1Antwort

netezza Double Precision Output schneidet Vaules

Ich habe festgestellt, dass die nzsql und 'nzunload' nur die Mantisse-Werte der Doppelpräzisionsspalte abschneidet. Hier ist das Problem: wählen Sie tot_amt aus Tabelle1; tot_amt ~~~~~~~ 123.124

export netezza mantissa 2016-06-23

---