floating-point-precision

5Hitze

2Antwort

Warum funktioniert nicht! Int() ordnungsgemäß?

Warum schlägt diese Behauptung fehl? import std.conv; void main() { auto y = 0.6, delta=0.1; auto r = to!int(y/delta); assert(r == 6); } r Wert sollte 6 sein und doch ist es 5, wa

d floating-accuracy floating-point-precision 2014-12-26

---

5Hitze

1Antwort

Warum zwei float Variablen mit PHP_INT_MAX Werten gleich sind, es sei denn einer von ihnen mit einem Wert von mehr als 1025

<?php $x=PHP_INT_MAX; echo ((float)($x+1026)==(float)($x))?'EQUAL':'Not Equal'; Ich weiß Gleitpunktarithmetik exakt ist nicht und und x + 1 sind so nah beieinander $ $ x hinzugefügt wird, dass sie

php floating-point floating-accuracy floating-point-precision 2015-08-02

---

5Hitze

1Antwort

Kann eine ausführbare Datei in Linux die Fließkomma-Genauigkeit in einer verknüpften dynamischen Bibliothek beeinflussen?

Wir haben ein Problem mit Gleitkomma-Genauigkeit in einer dynamischen Bibliothek. Der Aufbau ist wie folgt: Wir haben eine dynamische Bibliothek, die von Gleitkommazahlen eine Berechnung X auf einem g

c++ linux gcc floating-accuracy floating-point-precision 2015-06-16

---

7Hitze

3Antwort

Wie implementieren C und C++ Compiler die Entscheidung der Gleichheit für Float-Nummern?

Zum Beispiel float a = 1.0; float b = 1.2; puts(a == b? "equal": "not equal"); Hat Compiler mit ihr umgehen bitwisely oder durch andere Methoden? (Ich weiß, es ist keine gute Wahl, um die Gleichh

c++ c floating-point-precision 2015-05-06

---

15Hitze

3Antwort

Verwendung von Numpy in verschiedenen Plattformen

Ich habe ein Stück Code, der die Helmholtz-Hodge-Zerlegung berechnet. Ich habe auf meinem Mac OS Yosemite ausgeführt und es funktionierte gut. Vor einem Monat wurde mein Mac jedoch ziemlich langsam (e

python windows macos numpy floating-point-precision 2015-05-13

---

5Hitze

1Antwort

Angesichts einer Nummer, wie man eine nächste Nummer in einer Reihe von Gleitkommadaten

finden Ich stieß auf diese Frage bei der Suche nach Amazon Interview Fragen und wollte fragen. Wie können Sie anhand einer Zahl die nächste Zahl in einer Reihe von Fließkommadaten finden? Wenn alles e

algorithm floating-point-precision 2015-05-13

---

7Hitze

4Antwort

Javascript Math.floor Problem zwischen bestimmtem Zahlenbereich

Ich bin vor einem Problem mit Math.floor Funktion von JavaScript für das folgende Szenario: 1) vom Wert betwwen 8192 und 10484, if I type 8192.8 -> The Math.floor converts it into 8192.79 if I t

javascript jquery knockout.js floating-point-precision 2015-05-14

---

7Hitze

1Antwort

.format() gibt ValueError zurück, wenn {0: g} verwendet, um nachfolgende Nullen zu entfernen

Ich versuche, eine Zeichenfolge zu generieren, die eine gelegentliche Gleitkomma mit abschließenden Nullen enthält. Dies ist ein MWE der Textzeichenfolge und mein Versuch, sie mit {0:g} Entfernung: xn

python string formatting floating-point-precision 2014-09-10

---

5Hitze

1Antwort

Lodash Rundungsgenauigkeit

Ich versuche, eine Zahl als Prozent anzuzeigen, indem Sie _.round verwenden und dann die Zahl mit 100 multiplizieren. Aus irgendeinem Grund, wenn ich die gerundete Zahl multipliziere, wird die Genauig

javascript rounding percentage lodash floating-point-precision 2015-09-01

---

5Hitze

3Antwort

Python eine Liste von float zu String konvertiert

Ich habe eine Liste von Schwimmern in Python und wenn ich es in einen String konvertieren, erhalte ich den follwoing [1883.95, 1878.3299999999999, 1869.4300000000001, 1863.4000000000001] Dieser Schw

python list formatting floating-point-precision floating-point-conversion 2014-05-01

---