floating-point

27Hitze

6Antwort

Konvertieren von hex in float

Wie konvertiert man die folgende hexadezimale Zeichenfolge in Float (einzelne Genauigkeit 32-Bit) in Python? "41973333" -> 1.88999996185302734375E1 "41995C29" -> 1.91700000762939453125E1 "470FC614

python binary floating-point hex decimal 2009-10-20

---

47Hitze

3Antwort

Double vs Float auf dem iPhone

Ich habe gerade gehört, dass das iPhone nicht doppelt nativ machen kann, wodurch sie viel langsamer als die regulären float. Ist das wahr? Beweise? Ich bin sehr interessiert an dem Problem, weil mein

iphone cocoa-touch floating-point ieee-754 2009-10-26

---

5Hitze

3Antwort

Python-Klasse mit Integer-Emulation

Gegeben ist das folgende Beispiel: class Foo(object): def __init__(self, value=0): self.value=value def __int__(self): return self.value ich eine Klasse Foo, haben will, die a

python floating-point integer emulation 2009-10-28

---

20Hitze

5Antwort

Was ist der Inklusivbereich von float und double in Java?

Was ist der inklusive Bereich von float und double in Java? Warum wird nicht empfohlen, Float oder Double für alles zu verwenden, wo Präzision entscheidend ist?

java types floating-point double range 2009-10-30

---

5Hitze

2Antwort

Warum sprintet Perl nicht runde Gleitkommazahlen richtig?

Ich war auf der Suche nach der Rundungskonvention von Perls eingebauter Funktion sprintf. Ich dachte, dass es eine normale Rundung tut (zB ROUND_HALF_UP wie in Java's rounding mode convention), aber w

perl floating-point printf 2009-10-30

---

5Hitze

7Antwort

Wie geht es mit der Tatsache, dass die meisten Dezimalbrüche nicht genau in Binärzahlen dargestellt werden können?

So wissen wir, dass Brüche wie 0,1, nicht genau in Binärbasis dargestellt werden können, die genaue Probleme verursachen (wie hier erwähnt: Formatting doubles for output in C#). Und wir wissen, dass w

c# floating-point double decimal 2009-11-02

---

10Hitze

5Antwort

Zufall float Zahl

ich diese Funktion hatte einen Pseudo-Random-Schwimmer zwischen 0 .. 1 inklusive zu erhalten: float randomFloat() { float r = (float)rand()/(float)RAND_MAX; return r; } Allerdings ist

c random floating-point floating-point-conversion 2009-11-07

---

7Hitze

4Antwort

Euler # 26, wie rationale Zahl in Zeichenfolge mit besserer Präzision zu konvertieren?

Ich möchte 1/7 mit besserer Präzision erhalten, aber es wurde abgeschnitten. Wie kann ich eine bessere Genauigkeit erhalten, wenn ich eine rationale Zahl umwandele? >>> str(1.0/7)[:50] '0.14285714285

python floating-point floating-point-precision 2009-11-12

---

9Hitze

6Antwort

Convert Schwimmer auf String mit schneidenden null Dezimalstellen afer Punkt in Python

Ich habe Schwierigkeiten einen Schwimmer auf Zeichenfolge in folgenden Weise Umwandlung: 20.02 --> 20.02 20.016 --> 20.02 20.0 --> 20 Es scheint, dass %g Format das Beste für das ist, aber ich bin

python string floating-point 2009-11-16

---

8Hitze

4Antwort

Python float - str - float merkwürdigkeit

>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? Was ist hier los? Wie konvertiere ich 0.47000000000000003 in String und den

python string floating-point floating-accuracy ieee-754 2009-11-22

---