floating-point

5Hitze

3Antwort

Gleitkommagenauigkeit in Ruby on Rails Modellvalidierungen

Ich versuche, einen Dollar-Betrag mit einem regex zu überprüfen: ^[0-9]+\.[0-9]{2}$ Dies funktioniert gut, aber wenn ein Benutzer das Formular abschickt und der Dollar-Betrag endet in 0 (Null), Rubin

23Hitze

2Antwort

Eine 32-Bit-Gleitkommazahl einer 32-Bit-Ganzzahl zuordnen

Gibt es eine Möglichkeit, Gleitkommazahlen zu Ints oder unsignierten Ints zu mappen, so dass die Reihenfolge beibehalten wird, mit Ausnahme von NaN? Also, wenn a und b Schwimmern, und F die Funktionsz

7Hitze

5Antwort

Warum ändert sich der Wert dieses Floats von dem, auf dem es gesetzt wurde?

Warum gibt dieses C-Programm den "falschen" Ausgang? #include<stdio.h> void main() { float f = 12345.054321; printf("%f", f); getch(); } Ausgang: 12345.054688 Aber das ausgege

13Hitze

4Antwort

Doppelpräzisions-Gleitkommazahl in CUDA

Unterstützt CUDA Gleitkommazahlen mit doppelter Genauigkeit? Auch, was sind die Gründe für das gleiche?

9Hitze

3Antwort

Gleitkommavergleich in AWL, BOOST

Gibt es in der AWL oder in Boost eine Reihe von generischen einfachen Vergleichsfunktionen? Die eine, die ich fand, erfordern immer Template-Parameter und/oder Instanziierung einer Strukturvorlage. Ic

5Hitze

2Antwort

Python Verhalten für reichen Vergleich (Oder wenn Dezimal (‚100.0‘) <.01)

So habe ich eine Motto: import decimal; h = decimal.Decimal('100.0'); (h > .01, h < .01, h.__gt__(.01), h.__lt__(.01)) Alles, was es tut, ist ein Dezimal-Objekt macht 100,0 halten, und vergleicht si

7Hitze

3Antwort

sin v/s sinf Funktion in C

Ich versuche, die sinf Funktion in meinem C-Programm zu verwenden, aber es gibt mir einen nicht definierten Referenzfehler unter MSVC 6.0, aber sin funktioniert gut. Dies macht mich neugierig, den Unt

6Hitze

1Antwort

CPU Floating-Operationen Kosten

Ich bin interessant in der Zeit kosten auf einer modernen Desktop-CPU einiger Gleitkommaoperationen, um eine mathematische Bewertung zu optimieren. Insbesondere interessiert mich auf den Vergleich zwi

8Hitze

8Antwort

Manipulieren und Vergleichen von Gleitkommawerten in Java

In Java wird die Gleitkommaarithmetik nicht genau dargestellt. Zum Beispiel dieser Java-Code: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } el

9Hitze

3Antwort

Wie man das Vorzeichen zweier Gleitkommawerte bei der Behandlung negativer Nullen effizient vergleicht

Gegeben zwei Gleitkommazahlen, ich suche nach einer effizienten Möglichkeit zu überprüfen, ob sie das gleiche Vorzeichen haben, gegeben, falls vorhanden der beiden Werte ist Null (+0,0 oder -0,0), sie