floating-accuracy

20Hitze

5Antwort

Fast Exp-Berechnung: möglich, um die Genauigkeit zu verbessern, ohne zu viel Leistung zu verlieren?

Ich versuche, die schnell Exp (x) Funktion aus, die zuvor in this Antwort auf eine Frage SO auf die Verbesserung der Rechengeschwindigkeit in C# beschrieben wurde: public static double Exp(double x)

c# performance floating-accuracy exp 2012-05-11

---

3Hitze

3Antwort

0,1 + 0,7 = 0,8

Mögliche Duplizieren: Is JavaScript's Math broken? Warum in einigen Programmiersprachen der Ausdruck in Titel zu true ausgewertet wird? Ich habe es in PHP, Ruby und Python versucht.

floating-point floating-accuracy boolean-expression 2010-12-31

---

1Hitze

3Antwort

Nicht ganzzahliger ULP-Fehler?

Ich habe eine Frage über Fließkomma-Präzision. Wie ich es verstehe, ist ULP der Abstand zwischen zwei aufeinanderfolgenden diskreten, endlichen Zahlen in einer gegebenen Spezifikation. Oder die Einhei

java math precision floating-accuracy 2012-03-23

---

5Hitze

5Antwort

C# falsche Subtraktion? 12.345 - 12 = 0.345000000000001

Ich bin Anfänger in C# und arbeite mit Gleitkommazahlen. Ich muss zwischen diesen beiden Zahlen subtrahieren, aber es funktioniert nicht. Ich weiß, dass es durch die Fließkommazahl verursacht wird, ab

c# numbers floating-point floating-accuracy subtraction 2012-03-27

---

1Hitze

3Antwort

Ist Gießen zu schweben destruktiv?

In PHP, ich weiß, wir sollten nicht tun math auf Floats ohne Dinge wie bcmath, aber ist der bloße Akt Casting eine Zeichenfolge zu float destructive? Werden Ausdrücke wie (float)'5.111' == '5.111' imm

php floating-point escaping floating-accuracy 2011-01-10

---

10Hitze

10Antwort

Trimmen von Zahlen mit PHP

Wenn eine Float-Nummer auf eine bestimmte Zahl nach dem Gleitkomma abgeschnitten werden muss, stellt sich heraus, dass es nicht einfach ist, getan werden. Zum Beispiel, wenn das Abschneiden der zweite

php floating-point truncate floating-accuracy 2011-01-12

---

1Hitze

1Antwort

Garbage-Bits in der Gleitkommadarstellung von Zahlen in C/C++ Programm

Mögliche Duplizieren: Is JavaScript's Math broken? Dealing with accuracy problems in floating-point numbers den Code Betrachten unten und seine Ausgabe: #include <iostream> #include <iomanip> #inclu

c++ floating-point floating-accuracy 2012-04-04

---

0Hitze

1Antwort

iphone; Konvertieren von Lat, langen Strings in Floats - oder eine andere Methode?

Hallo dort Ich habe eine Zeichenfolge etwas wie "3.1600559280405984", die ein Breitenwert ist. Wenn ich dies in einen Float-Wert konvertieren möchte, um einer Annotation/Koordinate zuzuweisen, gibt de

xcode floating-accuracy 2010-11-25

---

9Hitze

6Antwort

Alle BigDecimal-Operationen auf eine bestimmte Genauigkeit einstellen?

Mein Java-Programm konzentriert sich auf Berechnungen mit hoher Genauigkeit, die auf mindestens 120 Dezimalstellen genau sein müssen. Folgerichtig werden alle nicht ganzzahligen Zahlen im Programm dur

java math rounding bigdecimal floating-accuracy 2012-04-08

---

9Hitze

6Antwort

Math "pow" in Java und C# zurück etwas andere Ergebnisse?

Ich portiere Programm von C# nach Java. Ich habe eine Tatsache konfrontiert, dass Java Math.pow(0.392156862745098,1./3.) = 0.7319587495200227 C# Math.Pow(0.392156862745098, 1.0/3.0) =0.7319587495200

c# java math floating-accuracy 2012-04-12

---