precision

20Hitze

3Antwort

Das Handbuch eines in Fortran 90 geschriebenen Programms sagt: "Alle realen Variablen und Parameter sind in 64-Bit-Genauigkeit angegeben (d. H. real*8)." Gemäß Wikipedia entspricht die einfache Genaui

8Hitze

1Antwort

Fortran - Einstellung Art/Genauigkeit einer Variablen zur Laufzeit

Ist es möglich, eine Genauigkeit einer Variablen selbst eine Variable zu machen, die zu einer Laufzeit definiert wird? Sprich, wenn ich versuche zu kompilieren: SUBROUTINE FOO(VARIABLE, PRECISION_VAL

9Hitze

5Antwort

Wie kann man Quad-Präzision in Gfortran verwenden und überprüfen?

Ich versuche Quad-Präzision in Gfortran zu verwenden, aber es scheint, als ob die real*16 nicht funktioniert. Nach einigem Fischen habe ich festgestellt, dass es als real*10 implementiert werden kann.

12Hitze

2Antwort

Warum ist -freccroal-math in GCC unsicher?

-freciprocal-math in GCC den folgenden Code double a = b/c; zu double tmp = 1/c; double a = b * tmp; In GCC Handbuch ändert, wird ihm gesagt, dass eine solche Optimierung unsicher ist und nicht a

4Hitze

5Antwort

Wie erzwingen ich an einer Schnur Präzision einen doppelten Wert in C++

Probeneingabestring enthält: char *str = "12345.567675"; Und die gewünschte Ausgabe, wenn ich die Genauigkeit von 3 Stellen hinter dem Komma müssen: str = "12345.568"; Gibt es eine Möglichkeit, di

2Hitze

4Antwort

Präzisionsprobleme von reellen Zahlen in Fortran

Ich habe versucht, Fortran für mein Forschungsprojekt zu verwenden, mit dem GNU Fortran Compiler (Gfortran), neueste Version, , aber ich habe einige Probleme in der Art, wie es real verarbeitet Zahlen

3Hitze

1Antwort

Möglichkeit zum Festlegen der Standard-Genauigkeit für alle Streams

Hallo Ich versuche herauszufinden, ob es eine Möglichkeit gibt, die Standard-Genauigkeit für ofstreams einzustellen. Um zu verdeutlichen, kann ich die Genauigkeit eines Ofstream einstellen, den ich oh

4Hitze

1Antwort

Intel Fortran-Compiler auf dreifache Präzision zerquetscht

Ich habe versucht, eine F90-Datei mit dreifacher Präzision zu kompilieren (ich weiß, es ist nicht üblich, aber, trotzdem ...). Nach ein paar Minuten, sagt es so: ifort: error #10106: Fatal error in /o

4Hitze

1Antwort

Ada Digits Confusion

Ich habe etwas gelesen, und es fällt mir schwer zu verstehen, wie man etwas interpretiert, das eine "Ziffer x" ist. I.E. Ich bekomme, dass es 6 Stellen der Präzision ist, aber ich denke, was hat mich

8Hitze

2Antwort

BigDecimal-Genauigkeit nicht beibehalten mit JPA-Annotationen

Ich verwende die javax.persistence-API und Hibernate, um Annotationen und persistente Entitäten und ihre Attribute in einer Oracle 11g Express-Datenbank zu erstellen. Ich habe das folgende Attribut in