floating-point

1Hitze

1Antwort

Subnormal Zahlen in verschiedenen Genauigkeiten mit MPFR

Ich mag würde verschiedenes n -Bit binäres Gleitkommaformate, die jeweils mit einem bestimmten e_max und e_min mit p Bit Genauigkeit emulieren. Ich möchte, dass diese Formate subnormale Zahlen nachahm

2Hitze

1Antwort

Wie pushen (und knallen Sie) Gleitkommaregister zum Stack auf ARMv7 32-Bit?

Wie man eine Reihe von Gleitkommaregistern auf dem modernen ARMv7 32-Bit auf den Stack pusht (und dann pop)? Insbesondere interessiert mich das Speichern und Wiederherstellen der (schwebenden) Fließko

16Hitze

2Antwort

Invertierbarkeit der IEEE 754 Gleitkommadivision

Wie lautet die Invertierbarkeit der IEEE 754 Gleitkommadivision? Ich meine, ist es durch den Standard garantiert, dass, wenn double y = 1.0/x dann x == 1.0/y, d. H. x genau Stück für Stück wiederherge

1Hitze

2Antwort

Javascript vergleicht Zahlen funktioniert nicht

Ich versuche normalize data und erkannte, dass es nicht funktioniert, weil ich das falsche Maximum bekomme. Der Nummernvergleich funktioniert jedoch nicht korrekt. Hier ist mein Code: var max = Number

-1Hitze

1Antwort

Ungeschickte Gleitkommazahlen Verhalten von Python 3.x (Anaconda Verteilung)

2.66+0.01 Out[1]: 2.67 dann: 2.67+0.01 Out[2]: 2.6799999999999997 Was ist los?

0Hitze

1Antwort

Division von Gleitkommazahlen mit 2 Dezimalstellen im Vergleich zu Gleitkommazahlen mit 6 Dezimalstellen

Wir haben 2 Gleitkommazahlen mit 6 Dezimalstellen. Wir teilen sie auf und zeigen das Ergebnis auf unserer Webseite. Wir zeigen auch die 2 Zahlen, die wir für die Teilung auf der Webseite verwendet hab

0Hitze

1Antwort

Gleitpunktzahl ungenau

In MSSQL, COST_C (float) In Model, [DisplayFormat(DataFormatString = "{0:0,0}", ApplyFormatInEditMode = true)] public double COST_C { get; set; } In Ansicht, <input name="COST_C" class="form-control"

-1Hitze

2Antwort

Float funktioniert nicht richtig

Ich kenne nicht den Grund, warum der Schwimmer nicht den genauen Wert druckt, wenn ich dieses Programm ausführe. #include <iostream> using namespace std; int main(){ int a, b; float x; cout <<

1Hitze

2Antwort

Sympy arbeitet mit int params, aber spinnt mit floats

Ich benutze sympy 1.0 mit Python 2.7.10 auf einem Mac. Das Problem ist, dass wenn ich Floats für Parameter anstelle von Ints verwende, scheint solve() für immer zu drehen. Hier ist mein Skript, mit a,

9Hitze

2Antwort

'ist' Operator verhält sich unerwartet mit Schwimmer

Ich stieß auf ein verwirrendes Problem beim Unit-Testen eines Moduls. Das Modul wirft tatsächlich Werte und ich möchte diese Werte vergleichen. Es gibt einen Unterschied im Vergleich zu == und is (zum