floating-point

18Hitze

2Antwort

Warum gibt Math.round() 0 für NaN-Argumente zurück?

Ich dachte, dass Ergebnis einer mathematischen Operation auf einem NaN mir eine NaN zurück geben sollte, aber Math.round(Float.NaN) == 0 Was ist der Grund für ein solches Verhalten von Math.round()? M

java floating-point nan 2012-04-12

---

2Hitze

3Antwort

Die beiden nächsten Zahlen zu einem Float aus einer Liste herausfinden

Ich habe ein Diktat mit Floats als Schlüssel und Objekte als Werte. Ich erhalte einen Float, und ich möchte wissen, zwischen welchen zwei Schlüsseln dieser Float ist. Wie finde ich das? Beispiel desse

python list dictionary floating-point 2012-04-13

---

1Hitze

3Antwort

Wie wird mit dem Debuggen von Zahlencode begonnen, wenn NaN nur angezeigt werden, wenn sie mit Optimierungen kompiliert wurden?

Was sind die allgemeinen Strategien Debuggen von numerischen Code zu starten, wenn: Code mit aggressiven Optimierungs-Flags zusammengestellt, occational NaN produziert das und Inf die in der Ausgabe C

debugging floating-point compiler-optimization scientific-computing compiler-options 2012-04-13

---

5Hitze

1Antwort

Was werden die Optimierungen durch -ffinite-math-only?

Alle Informationen, die ich in der Dokumentation und im Web für -ffinite-math-only finden kann, sind "Lassen Sie Optimierungen für Fließkomma-Arithmetik zu, die davon ausgehen, dass Argumente und Erge

optimization gcc compiler-construction floating-point 2012-04-13

---

1Hitze

3Antwort

Rückkehr Float statt Ganzzahl

/* returns tweetDetails */ function returnTweets() { $return = array(); $url = $hashtagSearchUrl = "http://search.twitter.com/search.json?q=%23gencsengeleceksin&include_entities=1&result_t

php floating-point integer 2012-04-13

---

4Hitze

1Antwort

Java-Entsprechungen von DBL_MIN_10_EXP, FLT_RADIX und anderen von float.h

Ich arbeite an dem Hinzufügen von sys.float_info zu Jython. Es hat mehrere Attribute von float.h. Ich versuche, das Java-Äquivalent für DBL_MIN_10_EXP, DBL_MANT_DIG, FLT_RADIX und FLT_ROUNDS zu finden

java floating-point jython 2012-04-14

---

4Hitze

1Antwort

Android-Entwicklung - SQLite Speicherung float

Wenn ich Float-Wert speichern widt SQLiteDatabase.insert der gespeicherte Wert wird anders sein als das Original, siehe unten: ich eine Datenbank der Breite: db.execSQL("CREATE TABLE IF NOT EXISTS inf

android sqlite floating-point 2012-04-14

---

6Hitze

1Antwort

Erweiterte Precision Floating Point Bibliothek C/C++

ich für eine längere Präzision suchen Punkt Bibliothek mit den folgenden Merkmalen floating: festen Datentyp Größe (dh die erweiterte Präzision Schwimmer eine festgelegte Menge an Speicher nimmt) nich

c++ c numbers floating-point numeric 2012-04-14

---

13Hitze

4Antwort

So finden Sie den nächsten nächsten/vorherigen doppelten Wert (numeric_limits :: epsilon für eine gegebene Zahl)

Der Titel ist ziemlich selbsterklärend, die Eingabe hat einen doppelten Wert, und ich möchte die kleinste mögliche Zahl hinzufügen/subtrahieren.

c++ floating-point double 2012-04-15

---

2Hitze

1Antwort

Gleitkommazahlen in Set speichern?

In der Ruby-Core-Bibliothek gibt es eine sehr nützliche Klasse Set. Es kann jede Art von Objekt speichern. Aber wie Sie wissen, haben Gleitkommazahlen (Float in Ruby) einige Genauigkeitsprobleme. 1.2-

ruby floating-point set 2012-04-15

---