ieee-754

5Hitze

1Antwort

ein Doppel aus einem String parsen, die einen Wert von mehr als Double.MaxValue halten

den folgenden Java-Code vor: String toParse = "1.7976931348623157E308"; //max value of a double in java double parsed = Double.parseDouble(toParse); System.out.println(parsed); Für den genannten

java parsing double ieee-754 2012-11-24

---

0Hitze

1Antwort

Was ist die von GCC verwendete Funktion rem_pio2f()?

Untersucht man den kompilierten Code der sinf() auf unserer GCC-Implementierung, sehe ich, dass es eine eingebaute Funktion ___ieee754_rem_pio2f aufruft. Ich habe versucht, nach einem Hinweis auf dies

c gcc trigonometry ieee-754 sin 2012-03-24

---

5Hitze

3Antwort

Genauigkeit der Nachkommastellen

In der Mittagspause begannen wir über die Genauigkeit des double Werttyps zu debattieren. Mein Kollege denkt, es hat immer 15 Stellen nach dem Komma. Meiner Meinung nach kann man nicht sagen, da IEEE

c# double ieee-754 2012-08-23

---

8Hitze

2Antwort

Lua - Verpackungs IEEE754 einfache Genauigkeit Gleitkommazahlen

I eine Funktion in reiner Lua machen möge, die ein Fraktion (23 Bits) erzeugt, einen Exponenten (8 Bits) und ein Zeichen (1 Bit) von einer Zahl, so dass die Zahl ungefähr gleich math.ldexp(fraction, e

floating-point lua ieee-754 pack 2013-01-19

---

4Hitze

1Antwort

Wie werden Sie mit Gleitkommazahlen auf das nächste Vielfache eines gegebenen Faktors aufgerundet?

Die Frage ist, wie man einen gegebenen Wert auf das nächste "fast exakte" Vielfache eines gegebenen Faktors f runden soll. Beispiel: Wenn f = 2,6, dann würde jeder "roundUp (x, 2.6)" Aufruf eine Zahl

java math floating-point ieee-754 2012-03-27

---

10Hitze

3Antwort

Portable Serialisierung von Gleitkommawerten nach IEEE754

Ich habe kürzlich an einem System gearbeitet, das große Datenmengen speichern und laden muss, einschließlich Gleitkommawerte mit einfacher Genauigkeit. Ich entschied mich für Netzwerk-Byte-Reihenfolge

c floating-point portability ieee-754 endianness 2012-05-16

---

5Hitze

1Antwort

Ist es gefährlich, von float zu BigDecimal zu konvertieren, dann zurück?

Ich mache gerade ein Programm, das Testvektoren generiert, die in einer VHDL-Testbench verwendet werden. Die Testbench testet im Wesentlichen eine Hardware, die als Gleitkommaaddierer mit einfacher Ge

java floating-point bigdecimal ieee-754 2012-03-31

---

11Hitze

2Antwort

Eigenschaften von 80-Bit-Berechnungen mit erweiterter Genauigkeit beginnend mit Argumenten mit doppelter Genauigkeit

Hier sind zwei Implementierungen von Interpolationsfunktionen. Das Argument u1 steht immer zwischen 0. und 1.. #include <stdio.h> double interpol_64(double u1, double u2, double u3) { return u

c floating-point ieee-754 extended-precision 2012-12-05

---

1Hitze

2Antwort

IEEE 754 Zahlen mit doppelter Genauigkeit von MIPS C zu Java-Konvertierung

Ich habe einen eingebetteten PIC32-Mikrocontroller, der den C32-Compiler ausführt. Ich sende ein UDP-Paket mit einem 64-Bit-Doppelwert an ein Java-Programm. In meinem Test versuche ich den Dezimalwert

java c floating-point pic ieee-754 2012-04-06

---

10Hitze

3Antwort

IEEE Std 754 Fließkommazahl: let t: = a - b, garantiert der Standard, dass a == b + t?

Angenommen, t, a, b sind alle Doppel (IEEE Std 754) Variablen, und beide Werte von a, b sind NICHT NaN (aber Inf sein kann). Muss ich nach t = a - b unbedingt a == b + t haben?

c++ c floating-point ieee-754 2012-05-29

---