floating-point-precision

0Hitze

1Antwort

fraktionale binäre Subtraktion

Ich habe Schwierigkeiten zu verstehen, warum die folgende binäre Subtraktion das Ergebnis gibt, dass es tut. Ich bekomme immer eine andere Antwort. Ich versuche, 0,1-x so zu berechnen, dass x 0,000110

math binary floating-point floating-point-precision binary-operators 2012-04-09

---

0Hitze

3Antwort

Problem mit Schwimmer in Objective-C

Ich habe ein kleines Problem und ich kann keine Lösung finden! Mein Code ist (dies ist nur ein Beispielcode, aber mein Original-Code so etwas tun): float x = [@"2.45" floatValue]; for(int i=0; i<10

objective-c cocoa floating-point floating-point-precision 2009-07-28

---

8Hitze

1Antwort

Unterschied zwischen/fp: strict und/fp: präzise?

Wann verwenden Sie fp: strict im Gegensatz zu fp: precise? Ist es besser, erstere zu verwenden, wenn ich "genauere" Berechnungen durchführen und Rundungsfehler vermeiden möchte? Was ist die Heuristik

c++ visual-c++ floating-point floating-point-precision visual-studio-2010 2012-09-20

---

7Hitze

4Antwort

Euler # 26, wie rationale Zahl in Zeichenfolge mit besserer Präzision zu konvertieren?

Ich möchte 1/7 mit besserer Präzision erhalten, aber es wurde abgeschnitten. Wie kann ich eine bessere Genauigkeit erhalten, wenn ich eine rationale Zahl umwandele? >>> str(1.0/7)[:50] '0.14285714285

python floating-point floating-point-precision 2009-11-12

---

7Hitze

1Antwort

Jedes Äquivalent von "erweitert" für C#?

Ich arbeite an einer neuen Version meiner Mandelbrot screensaver und mir geht die Fließkommagenauigkeit aus - einfache double Werte haben nicht genug signifikante Zahlen für meine Bedürfnisse. Bedeuts

c# performance double floating-point-precision 2012-09-23

---

7Hitze

3Antwort

Java - maximaler Genauigkeitsverlust in einer doppelten Addition/Subtraktion

Ist es möglich, grob zu bestimmen, wie groß der maximale Präzisionsverlust bei zwei Werten in Java wäre (addieren/subtrahieren)? Wahrscheinlich ist das Worst-Case-Szenario, wenn zwei Zahlen nicht exak

java double floating-point-precision double-precision 2012-11-20

---

16Hitze

3Antwort

Wie kann man einen CGFloat sicher in den Boden stellen?

Oft muss ich CGFloat zu einer int Boden oder Decke, für die Berechnung eines Array-Index. Das Problem, das ich permanent mit floorf(theCGFloat) oder ceilf(theCGFloat) sehe, ist, dass es Probleme mit G

ios math floating-point floating-accuracy floating-point-precision 2012-08-16

---

9Hitze

5Antwort

Kann man Variablen irgendwie verändern?

So habe ich eine Funktion, die etwa wie folgt aussieht: float function(){ float x = SomeValue; return x/SomeOtherValue; } An einem gewissen Punkt, diese Funktion überläuft und gibt einen

c++ floating-point cout cpu-registers floating-point-precision 2008-09-08

---

5Hitze

2Antwort

WÄHLEN Sie einen FLOAT mit gegebener Genauigkeit

Ich möchte meine Werte als FLOATS speichern, aber beim Abrufen kann der Benutzer angeben (und zur Laufzeit ändern), wie viele Ziffern er nach dem Dezimalpunkt sehen möchte. Kann ich das in meinem SELE

mysql floating-point-precision 2012-11-29

---

5Hitze

3Antwort

float vs double (in Java)

Gibt es jemals einen Fall, in dem diese beiden Methoden bei gleichen Eingaben unterschiedliche Werte zurückgeben würden? int compare1(float a, float b) { return Double.compare(a, b); } int co

java floating-point-precision 2013-01-21

---