rounding

0Hitze

1Antwort

Ich habe versucht, mit bigdecimal in Java zu runden und habe in einen java.lang.ArithmeticException-Fehler, der nicht-beendende Dezimal-Erweiterung zeigt, ausgeführt. Kann jemand die Ursprünge des Feh

0Hitze

1Antwort

Teilen Sie eine Gleitkommazahl in diskrete Segmente

Ich muss ein Programm erstellen, das eine Gleitkommazahl in einzelne Teile teilt. Ich muss von start_actual (5.66882) zu end_actual (8.05153) in Schritten von Inkrement 0.43322 gehen, für den Fall, da

0Hitze

1Antwort

Round String.ValueVon der nächsten ganzen Zahl

Ich versuche einen String.ValueOf auf die nächste ganze Zahl zu runden. Irgendeine Idee, wie man String.valueOf (result) zur nächsten ganzen Zahl bringt. public void onClick(View v) { double res

0Hitze

2Antwort

Python, Wie man auf maximale Präzision aufrundet

Es ist eigentlich eine ganz einfache Frage, sagen wir, ich habe diese Nummer 1.499998499999999e-98, jetzt, wenn ich es auf ~ 1.5e-98 runden wollte, wie würde ich darüber gehen ? Ich probierte die Rund

0Hitze

1Antwort

Wert der Anzahl von Oracle erhalten 0,000003 extra C# DataSet

ich ein seltsames Problem haben Daten von DB auf immer Ich verwende C# und Oracle.DataAccess mit gespeicherten Prozedur. Im DB habe ich eine NUMBER (10,2) Typ Feld mit dem Namen TotalPayout und wenn e

1Hitze

2Antwort

Python - Wie Dezimalstellen ohne Rundung zu entfernen

Ich bin ein wenig neu in Python, und ich wollte es testen, meine Idee war es, ein Skript zu machen, die sehen würde, wie viel Zeug man für eine bestimmte Menge Geld kaufen könnte . Das Problem mit die

1Hitze

2Antwort

Delphi - RoundTo - immer runter

Ich muss eine Gleitkommazahl auf zwei Dezimalstellen runden, aber immer unten. Jetzt benutze ich RoundTo(number, -2), aber es tut die Rundung mathematisch korrekt, was unerwünschtes Verhalten für mein

1Hitze

3Antwort

Wie eine große Zahl in Shell-Befehl runden?

In Mac-Terminal möchte ich eine große Anzahl runden. Zum Beispiel Bei 10^13. Platz: 1234567812345678 -> 1230000000000000 Oder bei 10^12. Platz: 1234567812345678 -> 1235000000000000 So würde Ich mag um

1Hitze

1Antwort

SQL - wie auf 2 Dezimalstellen abzurunden

Ich habe eine Abfrage, wie unten Dim DoneAvgCont As New OleDbCommand("select avg(diffpay) ,conrtname from metersdone",con) Dim DoneAvgContdb As New OleDbDataAdapter(DoneAvgCont) Dim DoneAvgContD

-3Hitze

2Antwort

Rundung und Formatierung der Nullwert-Dezimalstelle in C#

Im Verwenden Sie den folgenden Code, um die Dezimalstelle auf 2 Dezimalstellen zu runden. decimal? RTime = RTime.HasValue ? Decimal.Round(RTime.Value, 2) : 0; Aber die Konvertierung von Nummer 512->