floating-point-conversion

1Hitze

1Antwort

Convert Integer in Float in Elisp

Ich habe triviale Probleme Umwandlung ganzzahliger Division in eine Gleitkomma Lösung in Emacs Lisp 24.5.1. (message "divide: %2.1f" (float (/ 1 2))) "divide: 0.0" ich diesen Ausdruck glauben erste

emacs elisp division floating-point-conversion 2016-03-19

---

5Hitze

3Antwort

Python eine Liste von float zu String konvertiert

Ich habe eine Liste von Schwimmern in Python und wenn ich es in einen String konvertieren, erhalte ich den follwoing [1883.95, 1878.3299999999999, 1869.4300000000001, 1863.4000000000001] Dieser Schw

python list formatting floating-point-precision floating-point-conversion 2014-05-01

---

5Hitze

3Antwort

Swift: float aus Byte-Daten extrahieren

Ich bin auf der Suche nach einer robusten und eleganten Möglichkeit, vier Big-Endian-Bytes aus einem Array als Float zu extrahieren. Ich kann einen UInt32 mit den Bits über etwas wie diese: let data:

swift type-conversion floating-point-conversion 2014-11-17

---

5Hitze

2Antwort

umgewandelt 32bit-float zu 64bit-double auf System wo sizeof double == sizeof float == 4

Ich versuche einen Float nach der BSON spec zu serialisieren, der nur 64bit double unterstützt. Also muss ich meinen Float zu einem Double machen. Auf einem System, in dem sizeof(double) == 8 ich gera

c floating-point-conversion 2014-11-18

---

6Hitze

2Antwort

C++ Doppel zu lange lange

Wenn ich Code in C++ schreiben: long long d = 999999998.9999999994; cout<<d; I Ausgabe: 999999999 (Aufrundung) Aber Ausgabe dieses Codes: long long d = 999999998.9999994994; cout<<d; ist 9999999

c++ floating-point double floating-point-conversion 2014-10-04

---

5Hitze

1Antwort

Warum druckt STRTOF nicht richtig float?

Der Code, den ich oben geschrieben habe, sollte 1.25 drucken, aber nach Codepad (Online-C-Compiler) wird nicht gedruckt 1.25. Auf dem Codepad wird 2097152.000000 gedruckt. Hier ist die codepad link Wa

c floating-point-conversion 2015-04-22

---

5Hitze

1Antwort

Vergleichen Float-Array als int-Array

Ich brauche einen optimierten binären Suchalgorithmus auf einem Array von sortierten Zahlen. Ich tat dies und stellte fest, dass zum Speichern von Zahlen mit Schwimmer ist schneller als ganze Zahl ver

c++ c floating-point floating-point-conversion 2015-07-31

---

11Hitze

2Antwort

Wie man einen float in hex konvertieren

In Python muss ich eine Reihe von Floats in hexadezimale konvertieren. Es muss Nullen aufgefüllt werden (zum Beispiel 0x00000010 anstelle von 0x10). Genau wie http://gregstoll.dyndns.org/~gregstoll/fl

python python-2.7 floating-point-conversion 2014-05-13

---

8Hitze

3Antwort

Ist das Floating-Point-Round-Trip-Verhalten immer definiert, wenn der Gleitkommabereich größer ist?

Nehmen wir an, ich habe zwei arithmetische Typen, eine ganze Zahl, I, und eine Fließkommazahl, F. Ich nehme auch an, dass std::numeric_limits<I>::max() kleiner ist als std::numeric_limits<F>::max(). N

c++ language-lawyer c++14 floating-point-conversion 2015-04-29

---

5Hitze

1Antwort

C# float Präzision

Kann jemand mir bitte erklären, was hier passiert: using System; using System.Text; namespace ConsoleApplication1 { class Program { static void Main(string[] args) { object o =

c# .net floating-point floating-point-precision floating-point-conversion 2014-02-10

---