rounding

-1Hitze

1Antwort

C# Math.Round Bug?

Ich versuche, eine Zahl zu 7 Dezimalstellen abzurunden, aber ich bemerkte, dass Math.Round nicht richtig mit einigen Zahlen funktioniert: Math.Round(39.248779999999996,3) => 39.249 Math.Round(39.2487

c# math rounding 2016-06-25

---

2Hitze

1Antwort

Warum ist das Runden von 0,5 (Dezimal) nicht exakt?

eine Hälfte, das heißt 0,5 in dezimale, hat eine genaue Binärdarstellung: 0,1 Dennoch, wenn ich ihn um auf ganzzahlige, I 0 erhalten statt 1 habe ich versucht, in Python und C, die gleich verhalten. Z

python floating-point rounding floating-accuracy 2016-06-29

---

1Hitze

2Antwort

Rundungsfehler in Mysql 5.5 +?

Ich habe ein seltsames Rundungsproblem. Hier ist das Setup (MySQL5.5 Percona; gleiche in Mysql 5.7 CE): CREATE TABLE `roundingtest` ( `RT_Double` DOUBLE NULL DEFAULT NULL, `RT_Float` FLOAT NULL DEFAU

mysql rounding 2016-06-29

---

1Hitze

1Antwort

Wie wird eine Dezimalzahl auf eine bestimmte Anzahl von Ziffern aufgerundet?

Ich muss eine Zahl auf 4 Dezimalstellen aufzurunden. This answer nicht hilft, weil die Methode: public static decimal RoundUp(this decimal input, int places) { decimal multiplier = Convert.

c# .net math rounding 2016-06-30

---

0Hitze

1Antwort

Java Rundung Int-Werte in Abhängigkeit von arithmetischen Ergebnis

Nehmen wir an, ich mache einige arithmetische Berechnungen (wie Division und dann Addition) auf int Werte und möchten dann das Ergebnis in einem int Wert speichern. Wie runde ich Werte, die größer als

java math floating-point rounding precision 2016-06-30

---

0Hitze

2Antwort

So kürzen Sie einfach eine Zahl für die Anzeige

Ich möchte die einfachste Möglichkeit kennen, eine Zahl in eine abgeschnittene und abgerundete Form umzuwandeln. Ich weiß, viele Möglichkeiten, es manuell zu tun (manuell abschneiden, setzen Sie ein K

math c#-3.0 rounding truncate 2016-07-01

---

1Hitze

1Antwort

Postgres: Update-Feld und runde es

Ich habe riesige Tabelle, wo gelegentlich eine Spalte nicht gerundet Werte, z. 16345.462500 anstelle von 16345.460000 Ich bin nicht so gut in Postgres - vielleicht ist es möglich, Tabellen zu aktualis

sql postgresql sql-update rounding 2016-07-03

---

0Hitze

1Antwort

Swift Restoperator Präzision

Ich muss Aktien, Indizes und Futures-Preise auf den nächsten Tick runden. Der erste Schritt besteht darin, zu prüfen, ob der Preis ein Vielfaches des Ticks ist. Apple Docs sagt "Im Gegensatz zum Rest-

swift math rounding 2016-07-08

---

0Hitze

1Antwort

Schnelle Rundfunktion. Kann den Wert des Nicht-Funktions-Typs 'Int' nicht aufrufen

Ich habe ein seltsames Problem .. Ich habe versucht, die runde Funktion in einem meiner View-Controller aufzurufen. let roundedValue = round(letterAmount[ index ] * 10)/10 Es funktionierte gut .. We

swift int rounding 2016-07-09

---

-1Hitze

2Antwort

aufrunden diese Weise (mitzuhalten dezimal)

Wie i 2,278481 ändern ... auf 2.2? double a = 180; double b = 79; double x = (a/b); Math.ceil() kehrt 3 und Math.floor() kehrt 2

java math rounding 2016-07-13

---