precision

5Hitze

5Antwort

Wie schreibe ich einen Prototyp für Number.toFixed in JavaScript?

Ich muß sechs Plätze Dezimalzahlen abzurunden mit Hilfe von JavaScript, aber ich brauche älteren Browser zu betrachten, damit ich can't rely on Number.toFixed Der große Fang mit toExponential, toFixed

javascript rounding precision 2008-12-03

---

7Hitze

4Antwort

Bester Algorithmus zur Vermeidung von Genauigkeitsverlust?

Eine kürzliche Hausaufgabe, die ich erhalten habe, fordert uns auf, Ausdrücke zu nehmen, die im Computer einen Präzisionsverlust verursachen könnten, und sie so zu verändern, dass dieser Verlust vermi

precision numerical-analysis 2009-02-02

---

5Hitze

5Antwort

Wie „% f“ verwenden, um einen doppelten Wert in einen String mit der richtigen Präzision zu füllen

Ich versuche, eine Zeichenfolge mit einem doppelten Wert zu füllen ein sprintf wie folgt aus: sprintf(S, "%f", val); Aber die Präzision wird auf sechs Dezimalstellen abgeschnitten. Ich brauche etwa

c floating-point precision printf 2008-09-16

---

24Hitze

11Antwort

Wie man eine Fließkommazahl manuell von einer Zeichenkette analysiert

Natürlich haben die meisten Sprachen Bibliothekfunktionen für dieses, aber nehmen Sie an, dass ich es selbst tun möchte. Angenommen dass der Schwimmer ist gegeben wie in einem C oder Java-Programm (mi

parsing floating-point precision 2008-09-17

---