rounding

0Hitze

1Antwort

Wie float Nummer Runde? C++/CLI - VS2015

Angenommen, es gibt zwei Gleitkommazahlen: a, b. Ich muss einen zu b zuweisen. Dann würde b durch eine Funktion in eine Textzeichenfolge konvertiert werden, die ich nicht ändern kann. Die Umwandlung e

0Hitze

1Antwort

`round()` zu vielen Stellen in R

Ich bin mit der round()-Funktion, die nach Hilfe Runde der Werte in ihrem ersten Argumente an die angegebenen Nummer der Dezimalstellen (default 0) . Und das digits Argument in round(x, digits = 0) is

0Hitze

3Antwort

Warum bekomme ich unterschiedliche BigDecimal-Rundungsergebnisse?

Warum erhalte ich folgende Ausgabe: 1,11 1,13 wenn unter Code ausführen: public static void main(String[] args) { double aDouble = 1.115; double bDouble = 1.125; System.out.println(ro

1Hitze

5Antwort

Aufrundung nach Bruch in PHP

Ich arbeite an einer Excel-Formel zu PHP-Funktion konvertieren. Jetzt stehe ich vor einem Problem, das sich als Fraktion aufrundet. Bitte lassen Sie es mich erklären: (2 * 18) /2.98 = 12,08, aber nach

2Hitze

2Antwort

Kleine negative Zahl behält das Zeichen nach der Rundung bei

MATLAB scheint sich an das ursprüngliche Zeichen zu erinnern, auch wenn das gerundete Ergebnis Null ist. Das Signal ist nicht mehr sinnvoll, da der kleine negative Wert auf Null gerundet wurde. Codebe

0Hitze

1Antwort

Fließkommaquantisierung von Double zu 8bit

Wie kann ich einen double precision floating point auf den Wert runden, der in einem 8bit floating point gespeichert werden kann? Ich versuche es mathematisch zu tun, aber ich habe keine Ahnung, wie e

1Hitze

1Antwort

auf eine beliebige Anzahl von signifikanten Stellen in JavaScript Rundung wird nicht

Arbeits habe ich versucht, unten Beispielcode Aber diese Funktion funktioniert nicht für Eingänge wie sigFigs (24730790,3) liefert 24699999,999999996 und sigFigs (4.7152e-26,3) gibt zurück: 4.72000000

1Hitze

1Antwort

Schwimmer benötigt ?? Fehler mit round() in Python

konnte diese Frage durch die Suche nicht gefunden werden. Ich versuche, einige Python zu lernen und Ihre Hilfe benötigen diese diese Funktion: def roundtest(): i = round(raw_input("call a number:

0Hitze

1Antwort

R Weise der Rundung, wenn die letzte Dezimalstelle 5 ist

Wie funktioniert R Rundenzahlen mit der round() Funktion? Zum Beispiel: round(0.345, 2) # [1] 0.34 würde ich 0,35 erwarten. round(0.3455, 3) # [1] 0.346 Dies ist, was erwartet wird.

-1Hitze

1Antwort

Aufrunden und Abrunden in Excel

Ich weiß nicht, wie man in Excel aufrundet und abrundet, wenn ich verschiedene Zahlen habe. Für ex: Wenn ich 9.233 habe, dann rundet es auf 9 ab, weil 0.233 < 0.5, aber wenn es 2.457 ist, dann rundet