floating-accuracy

8Hitze

4Antwort

Python float - str - float merkwürdigkeit

>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? Was ist hier los? Wie konvertiere ich 0.47000000000000003 in String und den

17Hitze

2Antwort

PHP/MySQL: Beste Geldoperationen/Speicherpraktiken?

Also, ich plane, eine Anwendung (PHP/MySQL) zu machen, die viel mit Geld beschäftigt, und ich denke darüber nach, wie man mit dem Geld speichert und operiert, unter Bezugnahme auf PHP float data type

25Hitze

5Antwort

Was ist ein einfaches Beispiel für Gleitkomma-/Rundungsfehler?

Ich habe von "Fehler" gehört, wenn Sie Gleitkommavariablen verwenden. Jetzt versuche ich, dieses Rätsel zu lösen, und ich denke, ich bekomme einen Rundungs-/Gleitkommafehler. Also werde ich endlich di

1Hitze

9Antwort

Warum ist das Ergebnis für dieses Problem anders?

Ich stieß auf dieses folgende arithmetische Problem. Aber das Ergebnis unterscheidet sich von normalen mathematischen Operation, Warum ist es so? double d1 = 1.000001; double d2 = 0.000001; Consol

38Hitze

6Antwort

Eine große Zahl fälschlicherweise in Javascript gerundet

diesen Code Siehe: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"type

5Hitze

3Antwort

SQL Server 2005 numerische Genauigkeit Verlust

Debugging einige Finanz-SQL-Code gefunden ein seltsames Problem mit numerischen (24,8) Mathematik Genauigkeit. die folgende Abfrage auf Ihrem MSSQL Laufen Sie A + B * C Ausdruck Ergebnis erhalten würd

2Hitze

3Antwort

Wie kann ich einen runden Fehler umgehen, der eine Endlosschleife in Perls Statistics :: Deskriptive verursacht?

Ich verwende die Statistics::Descriptive-Bibliothek in Perl, um Häufigkeitsverteilungen zu berechnen und auf ein Problem mit Gleitkomma-Rundungsfehlern zu stoßen. Ich übergebe zwei Werte, 0,205 und 0,

9Hitze

8Antwort

Umgang mit Genauigkeitsprobleme in Gleitkommazahlen

ich mich gefragt, ob es einen Weg gibt ein Genauigkeitsproblem zu überwinden, die das Ergebnis meiner Maschine interne Darstellung von Gleitkommazahlen zu sein scheint: Aus Gründen der das Problem Kla