floating-point

11Hitze

3Antwort

Range-Werte zu Pseudofarbe

Ich habe ein bestimmtes Array von Floats (in Python), die von 0 bis 100 reichen können. Ich möchte ein Pseudo-Farbbild erstellen, so dass die Farben von grün (entsprechend 0) zu rot (100). Dies ist ve

python colors floating-point 2012-06-05

---

12Hitze

4Antwort

Anzeige float Wert w/o wissenschaftliche Schreibweise

Wenn ich die folgende Multiplikation in PHP machen: $ret = 1.0 * 0.000000001; i das Ergebnis zu erhalten: 1.0E-9 ich dieses Ergebnis in die normale dezimal konvertieren möchten Notation, wie kann ic

php floating-point 2012-06-06

---

9Hitze

2Antwort

Setzt Präzision in C++ Runde? Wenn ja, warum sehe ich das?

Der folgende Ausschnitt Ausgänge 0,29847, wenn ich würde 0,29848 erwarten: double f = 0.298475; cout << setprecision(5) << f << endl; Bei anderen Beispielen I jedoch beachten Rundung: double f = 0.

c++ floating-point 2012-06-06

---

12Hitze

4Antwort

Wenn ein Double mit einem ganzzahligen Wert in eine ganze Zahl umgewandelt wird, ist es dann garantiert "richtig"?

Wenn hat ein Doppel eine ‚genaue‘ Integer-Wert, etwa so: double x = 1.0; double y = 123123; double z = -4.000000; ist sichergestellt, dass es richtig zu 1, 123123 abrunden wird, und -4, wenn sie ü

c floating-point lua 2012-06-07

---

9Hitze

1Antwort

Warum gibt es in Java keine Ceil (Float)?

Angenommen, ich möchte float zu int in Java aufrunden. Zum Beispiel roundUp(0.2) = 1 roundUp(0.7) = 1 roundUp(1.3) = 2 ... würde Ich mag Math.ceil und Math.round nennen, das zu tun, aber java.lan

java floating-point integer 2012-06-14

---

6Hitze

2Antwort

Division und Gleitpunkte

Kann mir jemand helfen, warum X2 Null druckt. Ich denke, wegen der Gleitkommadarstellung X1 ist abgerundet, gibt es Weg, um die Präzession zu halten. long double x1, x2; x1= 0.087912088; // Note: 360

c floating-point floating-accuracy 2012-06-16

---

14Hitze

2Antwort

SQL AVG gibt einen int zurück

In einer meiner Abfragen scheint, dass die AVG Funktion einen int zurückgibt. Wie bekomme ich es, Fließkommawerte zurückzugeben? Ich habe versucht, es zu werfen, aber alle meine Zeilen für avg_level w

sql casting floating-point average 2012-06-19

---

6Hitze

3Antwort

Gibt es irgendeinen "Typ" in Borland C++ Builder wie "dezimal" von C#?

In C# gibt es einen Typ namens decimal (die System.Decimal-Struktur). Ich habe Informationen gefunden, die zeigen, wie es besser als float und double Typen für einige Fälle sind: StackOverflow - doubl

c# floating-point decimal c++builder 2012-06-19

---

6Hitze

2Antwort

Convert Float zu Dezimal (SQL Server)

Ich muss ein Float in Dezimal (28,10) in SQL Server konvertieren. Mein Problem ist, dass aufgrund der Art von Float und der Art und Weise, wie Conversions durchgeführt werden, das Floaten den Nutzern

sql-server tsql floating-point decimal 2012-06-20

---

31Hitze

3Antwort

Scala zwei ganzen Zahlen Teilen und ein Schwimmer Ergebnis

bekommen Wenn ich die folgende println(3/4) >0 tun würde Ich mag eine Dezimalzahl Antwort anstelle einer ganzen Zahl erhalten. Wegen der Art und Weise, wie ich in meinem tatsächlichen Code drucke,

scala casting floating-point integer 2012-06-20

---