floating-point

5Hitze

3Antwort

binary16 in Python

Das Modul struct ist nützlich, wenn Sie versuchen, Daten in und aus Binärformaten zu konvertieren. Vor kurzem stieß ich jedoch auf eine Dateiformatspezifikation, die the binary16 floating point format

python struct floating-point format packing 2010-07-18

---

25Hitze

1Antwort

Was ist der richtige Weg, um zwei Int-Werte zu teilen, um einen Float zu erhalten?

Ich möchte zwei Int Werte in Haskell teilen und das Ergebnis als Float erhalten. Ich habe versucht, es so zu tun: foo :: Int -> Int -> Float foo a b = fromRational $ a % b aber GHC (Version 6.12.1)

haskell types floating-point integer 2010-07-18

---

10Hitze

2Antwort

Dezimalgenauigkeit von Schwimmern

entspricht log10 (2^24) ≈ 7.225 Dezimalziffern Wikipedia Präzision: 7 Ziffern MSDN std::numeric_limits<float>::digits10 Warum numeric_limits zurückkehren hier 6? Sowohl Wikipedia als auch MSDN beric

floating-point 2010-07-22

---

5Hitze

3Antwort

Wie Rationals so lange Listen von Ziffern in Lisp anzeigen?

Ich beginne gerade Lisp zu lernen und frage mich, wie man eine rationale Dezimalzahl mit vielen Ziffern darstellen kann. Wenn ich (float x) verwende, wo x eine rationale ist, dann zeigt es etwa 8 Stel

lisp floating-point 2010-07-23

---

6Hitze

2Antwort

Perl Moduloperator Frage

Warum gibt das erste Beispiel ein falsches Ergebnis aus? perl -le 'print $x = 100*1.15 % 5' 4 perl -le 'print $x = 1000*1.15 % 5' 0

perl floating-point floating-accuracy 2010-07-26

---

9Hitze

1Antwort

C++/CLI: SIGFPE, _control87, _fpreset, Portierung alten unmanaged Watcom C App zu. NET

Ich habe eine mehrere tausend-line-Anwendung, die auf SIGFPE beruht (von einem Funktionszeiger an signal() übergeben), um den Zustand zu ändern und der Code wird korrekt ausgeführt, wenn bestimmte Gle

floating-point c++-cli dllimport sigfpe 2010-07-26

---

21Hitze

2Antwort

Javascript: zwei Schwimmer Vergleich von Werten

Ich habe diese Funktion JavaScript: Contrl.prototype.EvaluateStatement = function(acVal, cfVal) { var cv = parseFloat(cfVal).toFixed(2); var av = parseFloat(acVal).toFixed(2); if(av <

javascript comparison floating-point numbers 2010-07-27

---

19Hitze

9Antwort

Warum hört diese Schleife nie auf?

Mögliche Duplizieren: problem in comparing double values in C# Ich habe es an anderer Stelle gelesen, aber wirklich die Antwort vergessen, damit ich hier wieder fragen. Diese Schleife scheint nie unab

floating-point ieee-754 2010-07-28

---

8Hitze

9Antwort

Gleitkommazahl begrenzen?

Gibt es eine Möglichkeit, Gleitpunkte auf 2 Punkte zu runden? Zum Beispiel: 3576.7675745342556 wird 3576.76.

c++ c algorithm floating-point floating-point-conversion 2010-08-01

---

8Hitze

5Antwort

Fließkomma C++ - Compileroptionen | a/b verhindern -> a * (1/b)

Ich schreibe numerische Echtzeit-Software, in C++, kompiliere sie derzeit mit Visual-C++ 2008. Jetzt mit 'schnell' Fließkomma-Modell (/fp:fast), verschiedene Optimierungen , die meisten von ihnen nütz

c++ visual-c++ optimization floating-point floating-accuracy 2010-08-04

---