precision

1Hitze

1Antwort

So drucken Sie eine volle doppelte Genauigkeit von Google Glog

Ich versuche, eine doppelte Variable a wie folgt zu drucken. double a; //some statements for a LOG(INFO) << a; Wie kann ich a mit voller Präzision drucken?

9Hitze

4Antwort

So ermitteln Sie die maximale Genauigkeit für Doppel

Ich versuche zu bestimmen, was die maximale Genauigkeit für ein Doppel ist. In den Kommentaren für die akzeptierte Antwort in diesem Link Retain precision with double in Java @PeterLawrey gibt maximal

0Hitze

2Antwort

Warum sind die mathematischen Berechnungen in Java nicht präzise?

Ich habe eine XYSeries, die Lat und Lon Position von Punkten hält. Irgendwann berechne ich den Mittelpunkt all dieser Positionen. der Code ist sehr einfach: for(int i = 0; i < pnts.getItemCount(); i++

0Hitze

1Antwort

Was ist der maximale absolute Fehler für Gleitkommavergleiche?

Ich möchte Schwimmern wie diese vergleichen: void assertEquals(CGFloat f, CGFloat g) { NSCAssert(fabs(f-g) < 0.1); } void assertLE(CGFloat f, CGFloat g) { NSCAssert(f <= g + 0.1); } Gi

0Hitze

2Antwort

teilen und einfügen mit Präzision Orakel

Ich brauche einen Datensatz in der Tabelle mit Genauigkeit in Abfrage einfügen. Zum Beispiel: insert into spend_amount (record_no,purchase_amount) values ('1',(to_number(100.99/2))); Ich habe eine

2Hitze

3Antwort

Taking Modulo von Double NUmber

Ich habe zwei Nummer a und b .Ich muss berechnen (a^b)%1000000007 .Wie kann ich für Gleitkommazahlen berechnen. Ex: a= 7.654 and b=10000 Hier ist mein Code wird % Arbeit: public static double super_

1Hitze

1Antwort

Golang: Gibt es irgendeine Standardbibliothek, um float64 in eine Zeichenkette mit fester Breite mit maximaler Anzahl signifikanter Stellen zu konvertieren?

Stellen Sie sich in einer 12 feste Breite Tabelle zum Drucken brauchen wir den Druck float64 Zahlen: fmt.Printf("%12.6g\n", 9.405090880450127e+119) //"9.40509e+119" fmt.Printf("%12.6g\n", 0.123456789

1Hitze

2Antwort

Wie erhöht man die Präzision des doppelten Typs für große Zahlen?

in diesem Beispielcode double number = 2646849856355434345; Console.WriteLine(number % 5); Wenn ich doppelt für diesen Vorgang verwenden, wird es keine genaue Antwort geben. Hier wird "1" ausgegebe

0Hitze

1Antwort

C++ Hinzufügen von 1 zu sehr kleine Zahl?

Ich versuche nur eine gute Sigmoid-Funktion in C++ (und effizient) zu berechnen. Also muß er noch etwas tun: 1/(1 + exp(-x)) Das Problem ist, wenn X groß wird (oder auch klein), das Ergebnis der 1 + e

0Hitze

2Antwort

Multiplikation python

Wie kann ich das genaue Ergebnis einer Multiplikation erhalten? Python sagt mir, dass 0.017 * 3 gleich 0.051000000000000004 ist. Gibt es einen Befehl, um Python drucken 0.051?