double-precision

6Hitze

2Antwort

Gibt es eine genaue Annäherung der acos() - Funktion?

Ich brauche eine acos() Funktion mit doppelter Genauigkeit innerhalb eines Compute-Shaders. Da es keine eingebaute Funktion von acos() in GLSL mit doppelter Genauigkeit gibt, habe ich versucht, meine

5Hitze

2Antwort

Hat Fortran inhärente Einschränkungen der numerischen Genauigkeit im Vergleich zu anderen Sprachen?

Während ich an einer einfachen Programmierübung arbeitete, erstellte ich eine while-Schleife (DO-Schleife in Fortran), die beendet werden sollte, wenn eine reelle Variable einen genauen Wert erreicht

7Hitze

3Antwort

Java - maximaler Genauigkeitsverlust in einer doppelten Addition/Subtraktion

Ist es möglich, grob zu bestimmen, wie groß der maximale Präzisionsverlust bei zwei Werten in Java wäre (addieren/subtrahieren)? Wahrscheinlich ist das Worst-Case-Szenario, wenn zwei Zahlen nicht exak

5Hitze

1Antwort

Verwirrung über Arten in FORTRAN

Ich habe einen FORTRAN-Code für numerische Simulationen eines angewandten Physikproblems seit mehr als zwei Jahren geschrieben, und ich habe versucht, die in Fortran Best Practices beschriebenen Konve

7Hitze

6Antwort

Wie kann ich ein C# double auf den Wert "trimmen", wie es in einer SQLite-Datenbank gespeichert wird?

Ich bemerkte, dass, wenn ich einen doppelten Wert wie z. x = 0.56657011973046234 in einer SQLite-Datenbank, und dann später abrufen, bekomme ich y = 0.56657011973046201. Laut der sqlite spec und der .

1Hitze

1Antwort

Matlab: Das Speichern große Zahl in Matlab

Für große Zahlen zu speichern ich zum nächsten bin beziehen: 2.7182818284590455348848081484902650117874145507812500 Ich kann diese sparen mit double precision floating-point format (IEEE754) Danke.

2Hitze

1Antwort

Postfix 'd + 0' in Fortran echte wörtliche Ausdrücke

Kennt jemand, was das Postfix "d + 0" bedeutet in den Zuordnungen zu M1, M2 und M4 unten oder gibt es eine Ressource im Internet oder ein Buch, wo wird man diese Information sehr wahrscheinlich finden

6Hitze

3Antwort

Formatieren Double zum Drucken ohne wissenschaftliche Notation mit Dezimalformat

Ich habe Zeitstempel Werte von Sensor Lesungen gelesen, aber da sie in Nanosekunden bereitgestellt werden, dachte ich, ich würde sie werfen, um zu verdoppeln und die Konvertierung vornehmen. Die resul

10Hitze

3Antwort

Warum ist diese Berechnung so falsch?

Ist es überhaupt so ungenau? Ich habe die ganze Sache mit Apfloat willkürlich präzisiert und es machte keinen Unterschied, mit welchem ich hätte anfangen sollen !! public static double bearing(LatLn

29Hitze

2Antwort

Hat JavaScript doppelte Gleitkommazahlen?

Ich weiß, es ist eine seltsame Frage, aber hat JavaScript die Fähigkeit, mit Double's im Gegensatz zu einzelnen Floats zu arbeiten? (64 Bit Float vs. 32 Bit.)