floating-point

9Hitze

4Antwort

Floating Point Arithmetic - Modulo Operator auf Double Type

Also ich versuche herauszufinden, warum der Modulo-Operator einen so großen ungewöhnlichen Wert zurückgibt. Wenn ich den Code haben: double result = 1.0d % 0.1d; es wird ein Ergebnis von 0.09999999999

c# floating-point precision 2010-05-27

---

5Hitze

6Antwort

Float-Nummern in Java

Könnte mir bitte jemand gefallen, warum die Ausgabe des folgenden Programms nicht "anders" ist? public static void main(String[] args) { float f1=3.2f; float f2=6.5f; if(f1==3.2) System.out.pri

java numbers floating-point 2010-05-29

---

16Hitze

8Antwort

Convert ieee 754 Schwimmer mit c verhexen - printf

Idealen der folgende Code einen Schwimmer in IEEE 754 Darstellung nehmen würde und wandelt es in hexadezimal void convert() //gets the float input from user and turns it into hexadecimal { float

c floating-point ieee-754 2010-05-31

---

16Hitze

2Antwort

Kann ich gcc sagen lassen, wenn eine Berechnung NaN oder inf zur Laufzeit ergibt?

Gibt es eine Möglichkeit zu sagen gcc, um eine SIGFPE oder etwas ähnliches als Antwort auf eine Berechnung zu werfen, die zur Laufzeit in NaN oder (-)inf führt, wie es für eine Division durch Null wär

c gcc floating-point 2010-05-31

---

10Hitze

4Antwort

Python-Float-Zahl

Ich bin ein bisschen verwirrt, warum Python einige zusätzliche Dezimalzahl in diesem Fall hinzufügen, helfen Sie bitte >>> mylist = ["list item 1", 2, 3.14] >>> print mylist ['list item 1', 2, 3.1400

python floating-point numerical floating-accuracy 2010-06-06

---

11Hitze

7Antwort

Konvertieren von Float in char *

Wie kann ich einen float Wert in char* in C Sprache umwandeln?

c floating-point floating-point-conversion 2010-06-07

---

5Hitze

3Antwort

Test-Assertionen für Tupel mit Gleitkommazahlen

Ich habe eine Funktion, die ein Tupel zurückgibt, das unter anderem einen Gleitkommawert enthält. Normalerweise verwende ich assertAlmostEquals, um diese zu vergleichen, aber das funktioniert nicht mi

python unit-testing floating-point tuples assert 2010-06-11

---

18Hitze

1Antwort

Ruby BigDezimal Plausibilitätsprüfung (Fließkomma Newb)

Ist mein Verständnis korrekt, dass mit Ruby BigDecimal Typen (auch mit unterschiedlicher Präzision und Maßstabslängen) genau berechnen sollte oder sollte ich Floating Point Shenanigans erwarten? Alle

ruby-on-rails ruby math floating-point bigdecimal 2010-06-14

---

11Hitze

5Antwort

Wie berechne ich die Quadratwurzel einer Zahl ohne Verwendung von eingebauten?

Wie kann ich eine Methode erstellen, die die sqrt eines gegebenen Nonne zurückgibt? Zum Beispiel: sqrt (16) gibt 4 zurück und sqrt (5) liefert 2,3 ... ich Java bin mit und kennen die Math.sqrt() API-F

algorithm math floating-point square-root 2010-06-16

---

7Hitze

3Antwort

Seltsames Compiler-Verhalten mit Float-Literalen vs Float-Variablen

Ich habe ein interessantes Verhalten mit Float-Rundung/Trunkierung durch den C# -Compiler bemerkt. Wenn nämlich ein Gleitkomma-Literal außerhalb des garantierten darstellbaren Bereichs (7 Dezimalziffe

c# compiler-construction floating-point 2010-06-21

---