floating-point

8Hitze

2Antwort

Visual C++/Seltsames Verhalten nach dem Aktivieren von Gleitkommaausnahmen (Compilerfehler?)

Ich habe Schwierigkeiten, eine zuverlässige Möglichkeit zu erhalten, Gleitkommaausnahmen unter Visual Studio (2005 oder 2008) zu fangen. In Visual Studio werden Gleitkommaausnahmen standardmäßig nicht

visual-c++ exception floating-point divide-by-zero 2010-11-26

---

17Hitze

3Antwort

Wie konvertiere ich Integer in Float in JavaScript?

Ich habe eine ganze Zahl (z) bekam, und ich möchte es zu einer Reihe Gleitkomma, mit einer bestimmten Anzahl von Dezimalstellen konvertieren. Entwurf function intToFloat(num, decimal) { [code goes her

javascript integer floating-point 2010-11-27

---

0Hitze

2Antwort

Doubles mit Floats implementieren?

Angenommen, ich bin in einer Umgebung, deren einziger Gleitkommatyp (sagen wir) 32 Bit breit ist, und ich möchte einige Berechnungen mit 64-Bit-Gleitkommazahlen durchführen. Gibt es eine vernünftige/e

floating-point double 2010-11-28

---

20Hitze

4Antwort

float bits und striktes Aliasing

Ich versuche, die Bits aus einem Float zu extrahieren, ohne undefiniertes Verhalten aufzurufen. Hier ist mein erster Versuch: unsigned foo(float x) { unsigned* u = (unsigned*)&x; return *u;

c++ floating-point bits strict-aliasing type-punning 2010-12-01

---

33Hitze

6Antwort

Was bedeuten F und D am Ende von numerischen Literalen?

Ich habe einige dieser Symbole zu sehen, aber ich kann nicht etwas seltsam mit ihm finden, double d = 5D; float f = 3.0F; Was die D und F hinter 5 genau funktioniert bedeutet?

java floating-point double 2010-12-02

---

0Hitze

1Antwort

Unerwartete Ergebnisse in Firebug

Unerwartete Ergebnisse in Firebug-Konsole. Warum in dieser Operation: 1.7E16 + 2 ist die letzte Nummer 2 und in 1.7E16 + 3 Operation ist die letzte Nummer 4: D Dies ist ein JavaScript Bug? Firebug une

javascript floating-point sum ieee-754 exponential 2010-12-02

---

4Hitze

4Antwort

Vergleichen Sie eine Fließkommazahl mit Null

Ich möchte überprüfen, ob eine IEEE754 32-Bit-Nummer den Wert von genau 0.0f hat (es wird gelegentlich darauf festgelegt.) Akkumulationsfehler werden Null sein, da die Daten häufig aktualisiert werden

c floating-point 2010-12-03

---

14Hitze

4Antwort

Kann "System.Math.Cos" ein (float) zurückgeben?

In C# Bugs mir, wie es keine "Math.Cos" -Funktion gibt, die einen Float zurückgibt. Ein Double ist der einzige Wert, den du zurückbekommst, sodass du gezwungen bist, es in einen Float zu werfen. Wie s

c# .net math floating-point double 2010-12-03

---

0Hitze

2Antwort

Mache ich etwas falsch mit meinen Bestellungen von Operationen?

Ich habe hier ein bisschen eine mathematische Frage zu haben. Im Wesentlichen möchte ich zwei Gruppenfelder haben, die ein ganzes Formular ausfüllen. Wenn dieses Formular geladen wird, möchte ich zwei

c# visual-studio-2008 floating-point 2010-12-04

---

8Hitze

4Antwort

Long in Float, warum?

long b = 99; float c = 99.0F; //b = c; //Error : Cannot implicitly convert type 'float' to 'long'. c = b; // Running Successfully. Why? Warum gibt es kein Problem hinsichtlich der Größe des Daten

c# types floating-point 2010-12-04

---