precision

1Hitze

2Antwort

Was ist eine gute Faustregel-Gleitkommavergleichsmethode?

Ich teste einige Bits Code, eine Zahl, die Berechnung mit Fließkommawerten beinhaltet - oft sehr viele davon. Ich habe einige generische (C++ - Template-Code, aber es ist nicht wichtig für diese Frage

2Hitze

1Antwort

präzision num2string matlab

Ich habe eine Frage bezüglich der Genauigkeit der num2str() fctn in MatLab. a=0.11111111111111; b=a; Linux/OSX: num2str(a+b,25): ans=0.2222222222222221655465116 Windows: num2str(a+b,25): ans= 0.22

4Hitze

3Antwort

Logistik/Sigmoidfunktion Implementierung numerische Genauigkeit

in scipy.special.expit wird logistische Funktion wie folgt umgesetzt: if x < 0 a = exp(x) a/(1 + a) else 1/(1 + exp(-x)) Ich habe jedoch in anderen Sprachen/Frameworks gesehen Implem

3Hitze

2Antwort

Präzision der Multiplikation von Floats

Führt das Ausführen von Operationen (wie Multiplikation, Division, Addition und Subtraktion) auf Floats und Doubles ihren Präzisionsgrad? Zum Beispiel, wenn ich multipliziert (oder geteilt, addiert, s

1Hitze

1Antwort

PHP Bedeutung von '//'

Ich habe einige Code aus anderen Sprachen konvertiert (die Algorithmen verwenden) und fügen sie in PHP zu einigen Klassencode. stieß ich auf einige Code, der die folgende Zeile tat (Python) decNumber

0Hitze

1Antwort

Gleitkommaarithmetik größer oder gleich

Ich würde gerne wissen, ob Gleitkommazahlen in C# falsche Ergebnisse bezüglich größer oder gleich ergeben können. static bool foo() { Random r = new Random(); int i = r.Next(int.MinValue, i

0Hitze

1Antwort

Erhalten der kleinsten Schrittgröße für ein (nicht Null) Doppel oder Float

Für die Randwertanalyse im Test habe ich versucht, die kleinsten Schrittgrößen für Double oder Floats in .NET zu erhalten. Dies ermöglicht es mir, den nächsten größeren und nächstkleineren Wert zu erh

1Hitze

1Antwort

Minimale Anzahl von Dezimalstellen zur Darstellung eines Wertes im Bereich [0, 255]

Angenommen, ich habe ein Float im Intervall [0.0, 1.0], das als String dargestellt wird. Wir werden diesen Wert floatstr nennen. Nehmen wir auch an, dass dieser Wert eine Ganzzahl im Intervall [0, 255

0Hitze

2Antwort

Wie float Nummer mit While-Schleife in MATLAB Runde?

Ich habe eine eher unorthodoxe Hausaufgabe, wo ich eine einfache Funktion schreiben soll, wo ein double Wert auf eine ganze Zahl mit nur einer while Schleife gerundet wird. Das Hauptziel ist, etwas zu

0Hitze

1Antwort

Wie verwende ich eps in dieser Situation, wo ich Unterschiede von kumulativen Summen

Erstens nehme die Daten: orig = reshape([0.0000000000000000 0.3480000000000000 0.7570000000000000 1.3009999999999999 2.8300000000000001 4.7519999999999998 5.2660000000000000 5.8120000000000003 14.3360