floating-point

0Hitze

1Antwort

Methoden der BigDecimal gehen Skala und Präzision

ich eine Methode benötigen, die den Maßstab einer BigDecimal Nummer als Variable Beispiel erstellt nach unten gehen: number1 = BigDecimal.new('154.4978') number1 => 154.4978 jetzt möchte ich, dass

ruby-on-rails ruby floating-point 2011-01-03

---

2Hitze

2Antwort

Konvertieren von 32-Bit-Gleitkommazahl nach IEEE 80-Bit

Ich versuche, eine 32-Bit-Gleitkommazahl in eine erweiterte Gleitkommazahl mit 80 Bit zu konvertieren. Ich benutze MSVC x86. Ich habe versucht, den folgenden Inline-ASM-Code: void Convert32To80(float

c++ assembly floating-point double 2011-01-06

---

0Hitze

1Antwort

Wie benenne ich Dateien, die float-Numeren enthalten, in fortlaufende Nummer

Ich bin hier ziemlich fest. Bitte helfen Sie. Ich habe eine große Anzahl von Dateien, wie das genannt: plot_[0-9]*\.?[0-9]+\.png e. G. plot_.0012.png oder plot_1.12.png. Gibt es eine Möglichkeit, si

regex floating-point file-rename 2011-01-07

---

4Hitze

3Antwort

Python float Formatierung - wie „g“, aber mit mehr Ziffern

I "g" für die Formatierung von Gleitkommazahlen verwenden, aber es schaltet auf wissenschaftliche Formatierung zu früh für mich - an der 5. Stelle: >>> format(0.0001, "g") '0.0001' >>> format(0.0000

python formatting floating-point 2011-01-07

---

27Hitze

15Antwort

C: Wie ein Schwimmer auf das Intervall wickeln [-pi, pi)

Ich bin für ein paar netten C-Code suchen, der effektiv erreichen wird: while (deltaPhase >= M_PI) deltaPhase -= M_TWOPI; while (deltaPhase < -M_PI) deltaPhase += M_TWOPI; Was sind meine Optionen?

c math floating-point intervals modulo 2011-01-08

---

9Hitze

6Antwort

Math.max vs Enumerable.Max

Jon Skeet berichtet heute (source), dass: Math.Max(1f, float.NaN) == NaN new[] { 1f, float.NaN }.Max() == 1f Warum? Edit: gleiche Ausgabe mit Doppel auch!

.net math floating-point double nan 2011-01-08

---

0Hitze

1Antwort

Der effizienteste Weg zu Array.Resize mit etwas anderem als "0" als Standardwert?

Ich möchte die Größe eines Arrays ändern, aber ich möchte nicht, dass alle angehängten Werte Null sind. Array.Resize(ref range, range.Length + grow); Wenn Sie davon ausgehen, dass die beigefügten Lä

c# arrays memory-management floating-point resize 2011-01-09

---

16Hitze

6Antwort

Python: string Konvertierung in Dezimalzahl

Ich habe eine Python-Liste mit Strings in diesem Format: A1 = [' "29.0" ',' "65.2" ',' "75.2" '] Wie konvertiere ich diese Zeichenfolge in Dezimalzahlen arithmetische Operationen auf den Listeneleme

python string floating-point decimal 2011-01-10

---

1Hitze

3Antwort

Ist Gießen zu schweben destruktiv?

In PHP, ich weiß, wir sollten nicht tun math auf Floats ohne Dinge wie bcmath, aber ist der bloße Akt Casting eine Zeichenfolge zu float destructive? Werden Ausdrücke wie (float)'5.111' == '5.111' imm

php floating-point escaping floating-accuracy 2011-01-10

---

0Hitze

3Antwort

Dezimalzahl, Fließkommazahlen

Kann jemand die beste Logik/Methode zum Inkrementieren von Gleitkommazahlen erklären? Zum Beispiel, wenn wir Dezimalzahl assume beginnend 2,0, so dass die nächsten Punkte sollen automatisch erhalten Z

floating-point numbers decimal 2011-01-12

---