floating-point

6Hitze

3Antwort

Im gerade gelesenen Code Abgeschlossen von Steve McConnell, speziell Seite 295 auf Fließkommazahlen. Wenn i lief den folgenden Code: double nominal = 1.0; double sum = 0.0; for (int i =

22Hitze

11Antwort

Verwendung von Schwimmern mit sprintf() in eingebetteten C

Guys, ich möchte wissen, ob float Variablen in sprintf() Funktion verwendet werden können. Wie, wenn wir schreiben: sprintf(str,"adc_read = %d \n",adc_read); wo adc_read eine Integer-Variable ist, w

2Hitze

1Antwort

Postfix 'd + 0' in Fortran echte wörtliche Ausdrücke

Kennt jemand, was das Postfix "d + 0" bedeutet in den Zuordnungen zu M1, M2 und M4 unten oder gibt es eine Ressource im Internet oder ein Buch, wo wird man diese Information sehr wahrscheinlich finden

23Hitze

4Antwort

Warum gibt Java BigDecimal 1E + 1 zurück?

Warum gibt dieser Code manchmal 1E + 1 zurück, während für andere Eingaben (z. B. 17) der Ausdruck nicht in wissenschaftlicher Notation gedruckt wird? BigDecimal bigDecimal = BigDecimal.valueOf(double

6Hitze

2Antwort

Konvertieren von Array von Strings in Array von Floats

Ich schreibe eine App, die sich um das Abrufen von Mengen von numerischen Daten aus einer Datei dreht. Da die Daten jedoch in String-Form vorliegen, muss ich sie in Floats umwandeln, wo der Spaß begin

8Hitze

7Antwort

Inakkurate Logarithmus in Python

Ich arbeite täglich mit Python 2.4 bei meiner Firma. Ich benutzte die vielseitige Logarithmusfunktion 'log' aus der Standard-Mathematikbibliothek, und als ich log (2 ** 31, 2) eingab, gab es 31,000000

14Hitze

6Antwort

Vergleichen zweier Matrizen in Matlab

Ich habe zwei Matrizen x und y, beide sind Ergebnisse von verschiedenen Algorithmen/Routinen, die das gleiche Ergebnis berechnen sollen. Während ich weiß, dass das isequal() überprüfen würde, ob x und

2Hitze

3Antwort

Wie kann ich einen runden Fehler umgehen, der eine Endlosschleife in Perls Statistics :: Deskriptive verursacht?

Ich verwende die Statistics::Descriptive-Bibliothek in Perl, um Häufigkeitsverteilungen zu berechnen und auf ein Problem mit Gleitkomma-Rundungsfehlern zu stoßen. Ich übergebe zwei Werte, 0,205 und 0,

3Hitze

2Antwort

Konvertieren zwischen Arten in Objective-C

Als einen Ausgang Objective-C-Entwickler, und nicht die Geduld habe zu tun in Sachen einige studieren tatsächlich, und nicht nur das Tauchen, lief ich in die folgenden: Ich habe einen CGFloat und ich

2Hitze

1Antwort

Wie "füllen" Sie einen IntPtr-Parameter mit einem Gleitkommawert?

Ich verwende dllImport, um eine C-Bibliothek in C# .NET zu verwenden. Eine der Methoden in dieser Bibliothek verwendet den Datentyp void * als Parameter. Ich habe herausgefunden, dass ich den Datentyp