floating-accuracy

9Hitze

2Antwort

Geben FP-Operationen GENAU das gleiche Ergebnis auf verschiedenen x86-CPUs?

Verschiedene x86-CPUs (mit eingebauten FPUs und einigermaßen neu, sagen gestartet dieses Jahrtausend) produzieren genau das gleiche Ergebnis für ihre Fließkomma-Primitiven, vorausgesetzt, die gleiche

x86 floating-accuracy 2012-10-27

---

19Hitze

8Antwort

float drucken, Präzision erhalten

Ich schreibe ein Programm, das Fließkomma-Literale druckt, die in einem anderen Programm verwendet werden sollen. Wie viele Ziffern muss ich drucken, um die Genauigkeit des ursprünglichen Schwimmers z

c++ c string floating-point floating-accuracy 2012-06-05

---

8Hitze

4Antwort

Highcharts-Kreisdiagramm ignoriert Prozentsatz tooltip-Einstellung und hat Gleitkomma-Ungenauigkeit Problem

Highcharts 3.0 scheint Gleitkommazahlgenauigkeitsproblem zu haben, wenn Tooltips in einem Kreisdiagramm angezeigt werden. Ich war in der Lage, den genauen Fehler neu zu erstellen, indem ich eines der

highcharts decimal percentage pie-chart floating-accuracy 2013-04-09

---

6Hitze

2Antwort

Division und Gleitpunkte

Kann mir jemand helfen, warum X2 Null druckt. Ich denke, wegen der Gleitkommadarstellung X1 ist abgerundet, gibt es Weg, um die Präzession zu halten. long double x1, x2; x1= 0.087912088; // Note: 360

c floating-point floating-accuracy 2012-06-16

---

10Hitze

1Antwort

Handle Dezimalzahlen in Mysqli

Ich muss den Preis einiger Elemente in einer MySQL-Tabelle setzen. Beim Erstellen der Tabelle verwende ich DECIMAL(10,2), da ich nicht mehr als 2 Ziffern nach dem Komma brauche (zum Beispiel: 123,45 w

php floating-point mysqli floating-accuracy floating-point-precision 2013-06-05

---

8Hitze

3Antwort

Integer-Exponentiation in OCaml

Gibt es eine Funktion für Integer-Potenzierung in OCaml? ** ist nur für Schwimmer. Obwohl es meistens genau zu sein scheint, gibt es keine Möglichkeit für Präzisionsfehler, etwa 2. ** 3. = 8. manchmal

integer ocaml floating-accuracy exponentiation 2013-06-05

---

8Hitze

4Antwort

Math.Pow einen ganzzahligen Wert

Von http://msdn.microsoft.com/en-us/library/system.math.pow.aspx int value = 2; for (int power = 0; power <= 32; power++) Console.WriteLine("{0}^{1} = {2:N0}", value, power, (long) Mat

c# floating-accuracy pow 2012-06-25

---

16Hitze

3Antwort

Wie kann man einen CGFloat sicher in den Boden stellen?

Oft muss ich CGFloat zu einer int Boden oder Decke, für die Berechnung eines Array-Index. Das Problem, das ich permanent mit floorf(theCGFloat) oder ceilf(theCGFloat) sehe, ist, dass es Probleme mit G

ios math floating-point floating-accuracy floating-point-precision 2012-08-16

---

5Hitze

1Antwort

Gleitkomma-Genauigkeit wieder

Gestern fragte ich eine question darüber, warum ich Genauigkeit in einer Gleitkommaarithmetik verlor. Ich erhielt eine Antwort darüber, wie es aufgrund von Zwischenergebnissen in x87-Registern war. Di

c floating-point floating-accuracy ieee-754 floating-point-precision 2013-03-16

---

6Hitze

3Antwort

Formatieren Double zum Drucken ohne wissenschaftliche Notation mit Dezimalformat

Ich habe Zeitstempel Werte von Sensor Lesungen gelesen, aber da sie in Nanosekunden bereitgestellt werden, dachte ich, ich würde sie werfen, um zu verdoppeln und die Konvertierung vornehmen. Die resul

java android string-formatting floating-accuracy double-precision 2012-12-12

---