floating-point-precision

5Hitze

2Antwort

Wie entferne ich Matrizen aus einer Liste, die Duplikate innerhalb eines Gleitkommafehlers sind?

Diese Frage ähnelt Fragen, die in anderen Sprachen bezüglich Gleitkommafehler gestellt wurden (zB here), aber ich habe keine befriedigende Lösung gefunden. Ich arbeite an einem Projekt, das die Unters

r matrix floating-point-precision 2013-04-29

---

5Hitze

1Antwort

Gleitkomma-Genauigkeit wieder

Gestern fragte ich eine question darüber, warum ich Genauigkeit in einer Gleitkommaarithmetik verlor. Ich erhielt eine Antwort darüber, wie es aufgrund von Zwischenergebnissen in x87-Registern war. Di

c floating-point floating-accuracy ieee-754 floating-point-precision 2013-03-16

---

5Hitze

3Antwort

C++ sqrt-Funktionspräzision für volle Quadrate

Let, x ist eine ganze Zahl und y = x * x. Dann ist es garantiert, dass sqrt(y) == x? Zum Beispiel kann ich sicher sein, dass sqrt(25) oder sqrt(25.0)5.0 zurückkehren, nicht 5.0000000003 oder 4.9999999

c++ floating-point-precision 2013-11-22

---

16Hitze

3Antwort

Korrekte Verwendung von std :: cout.precision() - nicht gedruckt nachgestellte Nullen

ich viele Fragen über die genaue Zahl sehen für Gleitkommazahlen aber speziell möchte ich wissen, warum dieser Code #include <iostream> #include <stdlib.h> int main() { int a = 5; int b =

c++ floating-point-precision 2013-06-27

---

25Hitze

1Antwort

Existiert parseDouble in JavaScript?

In JavaScript habe ich eine Nummer, die 21 Ziffern ist, und ich möchte es analysieren. Gibt es in JavaScript eine parseDouble-Methode?

javascript floating-point-precision 2014-01-22

---

8Hitze

1Antwort

Wie vermeidet man Gleitkommafehler?

Ich habe versucht, eine Funktion zu schreiben, um Quadratwurzeln zu approximieren (ich weiß, dass es das Mathematikmodul gibt ... Ich möchte es selbst machen), und ich wurde von der Fließkomma-Arithme

python python-3.x floating-point floating-point-precision 2013-10-20

---

6Hitze

6Antwort

C++ Wie Gleitkommaarithmetik Fehler zu vermeiden

ich eine Schleife schreibe, die mit einem Schwimmer erhöht, aber ich habe über ein Gleitkommaarithmetik Problem dargestellt in dem folgende Beispiel kommen: for(float value = -2.0; value <= 2.0; value

c++ floating-point floating-point-precision 2013-02-13

---

10Hitze

1Antwort

Handle Dezimalzahlen in Mysqli

Ich muss den Preis einiger Elemente in einer MySQL-Tabelle setzen. Beim Erstellen der Tabelle verwende ich DECIMAL(10,2), da ich nicht mehr als 2 Ziffern nach dem Komma brauche (zum Beispiel: 123,45 w

php floating-point mysqli floating-accuracy floating-point-precision 2013-06-05

---

5Hitze

1Antwort

C# float Präzision

Kann jemand mir bitte erklären, was hier passiert: using System; using System.Text; namespace ConsoleApplication1 { class Program { static void Main(string[] args) { object o =

c# .net floating-point floating-point-precision floating-point-conversion 2014-02-10

---

6Hitze

1Antwort

Gibt es eine Möglichkeit, eine komplexe Zahl in Numpy mit der Genauigkeit eines Dezimal-Typs zu machen?

Ich arbeite in Python mit NumPy-Arrays von komplexen Zahlen, die weit über die normalen Gleitkommazahlen von NumPys Standard Complex-Typ (Zahlen größer als 10^500) reichen. Ich wollte wissen, ob es ei

python numpy decimal complex-numbers floating-point-precision 2014-02-13

---