floating-point

20Hitze

6Antwort

Ich mache Multiplikation und Division von float s und int s und ich vergesse die impliziten Konvertierungsregeln (und die Wörter in der Frage scheinen zu vage, um schneller googeln als hier zu fragen)

6Hitze

5Antwort

((171.36/1.19) == 144) ist falsch?

Mögliche Duplizieren: PHP Math Precision Hier ist ein Beispielcode in PHP echo (171.36/1.19) //[PHP] result: 144 //[JavaScript] result: 144.00000000000003 //[Manual] result : 144 $var1 = 144; $c

5Hitze

4Antwort

Haskell int float und char float

Gibt es eine Funktion in haskell, die von int in float und von char in float konvertiert? Ich weiß, dass es eine Funktion gibt, die von char in int und int in char konvertiert.

8Hitze

3Antwort

Speichern von Ints als Gleitkommazahlen

Angenommen, ich habe eine API, die es mir nur erlaubt, Floats oder Float-Arrays zu speichern. Allerdings möchte ich hier ganzzahlige Werte speichern. Ich verstehe (grob), dass ich ziemlich gut bin mit

16Hitze

2Antwort

Böse in der Python Dezimal/float

Ich habe eine große Menge an Python-Code, der Zahlen mit 4 Dezimalstellen zu behandeln versucht und ich bin aus vielen Gründen mit Python 2.4 stecken. Der Code tut sehr vereinfachende Mathematik (es i

5Hitze

2Antwort

SQL ‚schweben‘ Datentyp, wenn der Ausgang als XML, verursacht unerwünschte float Ergebnis

können Sie versuchen einfach: tabelle1: hat einen column1 vom Typ ‚schweben‘ statt SELECT column1 from Table1; gibt Werte wie in Tabelle ersichtlich. Sagen Sie diesen 15,1 jedoch zurück, wenn Sie Sele

24Hitze

3Antwort

For-Schleife vs While-Schleife in R

Ich habe eine seltsame Sache bemerkt, während der Arbeit in R. Wenn ich ein einfaches Programm, das Quadrate von 1 bis N implementiert mit For-Schleife und While-Schleife das Verhalten ist nicht die g

4Hitze

6Antwort

Warum fmod (1.0.0.1) == .1?

Ich habe dieses Phänomen zuerst in Python erlebt, aber es stellte sich heraus, dass es die übliche Antwort ist, zum Beispiel gibt MS Excel dies. Wolfram Alpha gibt eine interessante schizoide Antwort,

1Hitze

1Antwort

Matlab: Das Speichern große Zahl in Matlab

Für große Zahlen zu speichern ich zum nächsten bin beziehen: 2.7182818284590455348848081484902650117874145507812500 Ich kann diese sparen mit double precision floating-point format (IEEE754) Danke.

-4Hitze

1Antwort

64-Bit-Gleitkomma-CPU mit doppelter Genauigkeit unter Verwendung von Verilog

Wie konvertiert man 64-Bit-Dezimalwert in den 64-Bit-Binärwert ?? Was ist der Bereich der Dezimalwerte von 64 Bit ???? 64-Bit-Dezimalwerte bedeutet in Gleitkomma ...