floating-point

7Hitze

3Antwort

Absolutwert für Schwimmer in Kern OCaml

Ich bin in der Notwendigkeit einer Absolutwertfunktion für Schwimmer in OCaml und der Kernsprache scheint nicht eine zu besitzen, so schrieb ich folgendes: let absF (f:float) = if f > 0.0 then f else

floating-point ocaml absolute-value 2009-03-20

---

6Hitze

2Antwort

Hat Javas Gleitkomma-Implementierung immer noch die von Kahan identifizierten Probleme?

Ich habe heute Abend ein paar Artikel von Kahan gelesen und seine famous rant gegen Java. Bevor ich in die JVM-Spezifikation eintauche, hat sich seit dem ersten Schimpfen an dieser Front irgendetwas g

java floating-point 2009-03-30

---

1Hitze

9Antwort

Warum ist das Ergebnis für dieses Problem anders?

Ich stieß auf dieses folgende arithmetische Problem. Aber das Ergebnis unterscheidet sich von normalen mathematischen Operation, Warum ist es so? double d1 = 1.000001; double d2 = 0.000001; Consol

c# floating-point floating-accuracy 2009-04-06

---

2Hitze

3Antwort

Warum zeigt printf -1. # IND für FPTAN-Ergebnisse?

Ich arbeite an einem Programm, das Assemblercode aus Ausdrücken erzeugt. Eine der erforderlichen Funktionen ist tan (x), die derzeit mit der folgenden Sequenz von Code funktioniert (die Adressen werde

c++ assembly floating-point x86 ia-32 2009-04-13

---

3Hitze

3Antwort

double.Epsilon gegen std :: numeric_limits <double> :: min()

Warum double.Epsilon != std::numeric_limits<double>::min()? Auf meinem PC: double.Epsilon == 4.9406564584124654E-324 und in .NET definiert ist std::numeric_limits<double>::min() == 2.2250738585072014e

.net c++ floating-point 2009-04-15

---

8Hitze

3Antwort

Warum ist Gleitkommaarithmetik in C# ungenau?

Warum druckt das folgende Programm, was es druckt? class Program { static void Main(string[] args) { float f1 = 0.09f*100f; float f2 = 0.09f*99.999999f; Console.WriteLine

c# floating-point 2009-04-15

---

10Hitze

2Antwort

Wie kann ich in Perl vier Zeichen in einen 32-Bit IEEE-754 Float konvertieren?

Ich habe ein Projekt, bei dem eine Funktion vier 8-Bit-Zeichen empfängt und die resultierende 32-Bit-IEEE-754-Gleitkommazahl in eine normale Perl-Zahl konvertieren muss. Es scheint, dass es einen schn

perl floating-point ieee-754 2009-04-20

---

3Hitze

2Antwort

Wie bekomme ich Zahlen mit einer Genauigkeit von .05?

Im Folgenden wird sicherstellen, dass alle großen Zahlen nur auf den Hundertstel (related to this answer) exakt ist: public function round(sc:Number):Number { sc = sc * 100; sc = Math.floor

actionscript-3 math actionscript floating-point rounding 2009-04-28

---

1Hitze

6Antwort

Was ist die zuverlässigste Art zu prüfen, ob eine Gleitkommazahl eine ganze Zahl ist?

Ich kann auf verschiedene Arten denken, z. Convert.ToInt32(floatingPoint) - floatingPoint == 0; Math.Truncate(floatingPoint) - floatingPoint == 0; floatingPoint % 1 == 0; Math.Floor(floatingPoint)

c# floating-point isinteger 2009-03-12

---

3Hitze

3Antwort

Punkt Rundung treiben, wenn

Kürzen Dies ist wahrscheinlich eine Frage für einen x86-FPU Experten: Ich versuche, eine Funktion zu schreiben, die einen zufälligen Fließkommawert im Bereich [min, max] erzeugt. Das Problem ist, dass

c floating-point x86 fpu 2009-03-13

---