floating-point

57Hitze

7Antwort

Speichern von Geldbeträgen in mysql

Ich möchte 3.50 in einer MySQL-Tabelle speichern. Ich habe ein Float, in dem ich es aufbewahre, aber es speichert als 3.5, nicht 3.50. Wie kann ich erreichen, dass die abschließende Null ist?

mysql floating-point currency fixed-point 2010-02-12

---

7Hitze

4Antwort

Hexadezimale Darstellung von Floats in Haskell

Ich möchte ein Haskell Float in einen String konvertieren, der die 32-Bit-hexadezimale Darstellung des Floats im IEEE-Standardformat enthält. Ich kann kein Paket finden, dass dies für mich tun würde.

haskell floating-point hex ieee-754 2010-02-15

---

9Hitze

4Antwort

C printf mit% d und% f

Ich arbeitete an diesem Programm und mir fiel auf, dass die Verwendung von% f für ein Double und% d für einen Float etwas völlig anderes ergibt. Weiß jemand, warum das passiert? int main() { float a

c printing floating-point double printf 2010-02-16

---

6Hitze

6Antwort

math.h ceil funktioniert nicht wie erwartet in C

Warum ceil() rundet ein gleichmäßiges Floaten ohne gebrochene Teile? Wenn ich versuche, dies zu tun: double x = 2.22; x *= 100; //which becomes 222.00... printf("%lf", ceil(x)); //prints 223.00... (

c math compiler-construction floating-point 2010-02-22

---

6Hitze

3Antwort

Kann sich eine Berechnung von Gleitkommazahlen auf verschiedenen Prozessoren unterscheiden? (+ Passing doubles zwischen C# und C)

Ich habe eine Anwendung geschrieben in C#, die auch einige C-Code aufruft. Der C# -Code erhält einige doppelte Eingaben, führt einige Berechnungen durch, übergibt sie an die native Ebene, die ihre eig

c# c floating-point floating-accuracy 2010-02-25

---

7Hitze

4Antwort

"Runde halb hoch" auf Gleitkommawerten

Wir sind mit einer Datenbank fest, die (leider) Gleitkommazahlen anstelle von Dezimalwerten verwendet. Das macht das Runden etwas schwierig. Betrachten Sie das folgende Beispiel (SQL Server T-SQL): SE

sql-server language-agnostic floating-point rounding 2010-03-03

---

5Hitze

3Antwort

Fließkommaberechnung ändert sich abhängig vom Compiler

Wenn ich den exakt gleichen Code ausführe, der die exakt gleiche Fließkommaberechnung (unter Verwendung von Doppelpunkten) ausführt, die unter Windows und Solaris kompiliert wurde, erhalte ich leicht

c++ c floating-point 2010-03-04

---

24Hitze

8Antwort

Können Sie Fließkommawerte genau mit Null vergleichen?

Ich weiß, wir können nicht 2 Gleitkommawerte mit == vergleichen. Wir können nur vergleichen, dass sie innerhalb eines Intervalls voneinander sind. Ich weiß if(val == 0.512) aufgrund von Fehlern inhä

c# java floating-point 2010-03-04

---

6Hitze

2Antwort

Warum hängt die Geschwindigkeit dieses SOR-Lösers von der Eingabe ab?

Bezogen auf meine other question, habe ich jetzt die Sparse Matrix Löser geändert, um die SOR (Successive Over-Relaxation) -Methode zu verwenden. Der Code ist nun wie folgt: void SORSolver::step() {

c++ optimization floating-point sparse-matrix 2010-03-06

---

18Hitze

7Antwort

Warum gibt (int) (33.46639 * 1000000) 33466389 zurück?

(int)(33.46639 * 1000000) zurück 33466389 Warum passiert das?

c# floating-point floating-accuracy multiplication 2010-03-11

---