floating-point

-3Hitze

1Antwort

Summe von zehn 0,1 floats ist nicht gleich 1

Ich füge einige float s in einer Schleife zusammen. Ich erwartete, dass, wenn i 9 erreicht, die Summe gleich 1 ist, und NSLog(@"EXTRA: %f", sum); wird ausgeführt. Es wird nie ausgeführt ... was ist hi

objective-c math floating-point 2016-07-07

---

3Hitze

2Antwort

generieren n verschiedene Schwimmern, die nicht ∞ oder NaN (in Go) sind

ich eine Funktion getNthFloat(uint32 n) float32 so dass für jeden n will, m < 2³²-4 mit n ≠ m, getNthFloat(n) und getNthFloat(m) return verschiedener Schwimmer, dass reelle Zahlen (weder NaN oder ± ∞)

go floating-point type-conversion nan infinity 2016-07-08

---

0Hitze

1Antwort

Numpy Schwimmer Speicher in Datenrahmen scheint falsch

verwaltet werden habe ich nur dieses Datenrahmen einen Algorithmus für die Statistik zu testen: d1=pd.DataFrame([[0.1,0.2],[0.3,0.4],[0.5,0.6],[0.7,0.8],[0.9,0.81],[0.91,0.82],[0.93,0.94],[0.95,0.96],

python numpy pandas floating-point precision 2016-07-08

---

-1Hitze

1Antwort

ULP Vergleichscode

Der folgende Codeausschnitt alle über das Internet gestreut und scheint mit sehr wenig Änderungen in mehreren verschiedenen Projekten verwendet werden: union Float_t { Float_t(float num = 0.0f) :

c++ floating-point bitwise-operators 2016-07-08

---

1Hitze

1Antwort

Swift Float80 Datentyp nicht verfügbar in Xcode 8 Beta

Wenn ich meine Anwendung in Xcode 7 ausführe, ist der Float80 Datentyp verfügbar und ich kann den Quellcode durch Drücken von Befehl und Klicken auf den Datentyp ansehen. In Xcode 8 beta geht es nur b

swift floating-point double xcode8 2016-07-08

---

-2Hitze

1Antwort

Wie kann ich ".0" von Float-Nummern entfernen?

Angenommen, ich habe eine Float-Nummer. Wenn es eine Ganzzahl ist (z. B. 1,0, 9,0, 36,0), möchte ich ".0 (Dezimalpunkt und Null)" entfernen und in stdout schreiben. Zum Beispiel wird das Ergebnis 1, 9

floating-point int python-3.5 2016-07-09

---

2Hitze

2Antwort

Verwenden Sie doppelt so lange wie möglich vor dem Gießen zu schweben?

Ich habe eine Vektorklasse (2D mathematischer Vektor) mit float s als seine Komponenten. Für einige Zwischenberechnungen habe ich die Wahl, Doppel zu verwenden. Soll ich die doppelte Zwischenpräzision

java floating-point precision 2016-07-09

---

0Hitze

1Antwort

Increment eine Gleitkommazahl HTML/JavaScript

ich diese Funktionen bin mit/Dekrement Schieber Variable durch 1. function tstatUP() { \t var newValue = document.getElementById("range2").innerHTML; \t newValue++; \t if(newValue > 86) ne

html5 floating-point increment 2016-07-10

---

-9Hitze

1Antwort

kann 'float' nicht in 'float *' für Argument '2' konvertieren

Ich habe Probleme, dies herauszufinden, um ein Netpay zur Anzeige zu bekommen. Für die Zuweisung muss ich eine externe Funktion haben. Ich behalte das: Ich bin ziemlich neu zu Codierung im Allgemeinen

c floating-point 2016-07-11

---

1Hitze

2Antwort

Multiplikation eines Schwimmers, immer falsche Antwort (php)

Ich habe ein Schwimmer, die Daten zurückgeben von einem cURL Anruf ist, dass ich um 0,25% multiplizieren möchten (gegen Gebühr) und dann Summe (addieren Gebühr Zwischensumme) Code: var_dump(var_dump($

php floating-point number-formatting 2016-07-14

---