floating-point

1Hitze

3Antwort

gleiche Formatierung für Fließkomma halten Werte

ich ein Python-Programm haben, die Werte Punkt mit dem folgenden regulären Ausdruck liest floating (-?\d+\.\d+) sobald ich den Wert mit Schwimmer (match.group (1)) zu extrahieren, ich die tatsächlic

3Hitze

1Antwort

Gibt es ein Perl-Modul, um c99 hex Fließkomma-Notation in reguläre Notation zu konvertieren?

Gibt es eine integrierte Bibliothek, die ich verwenden kann, um c99-Stil Fließkomma-Notation, Beispiel: 0x1.0p23f, zu regulären Gleitkommazahlen mit Perl (und umgekehrt) zu konvertieren?

6Hitze

8Antwort

Casting eines Arrays von unsigned Chars zu einem Array von Floats

Was ist der beste Weg, um ein unsigned Char-Array zu einem Float-Array in C++ zu konvertieren? Ich habe eine derzeit für Schleife als for (i=0 ;i< len; i++) float_buff[i]= (float) char_buff[i];

3Hitze

2Antwort

C# Eingabeüberprüfung für eine Textbox: float

Diese vermeintlich leichte Aufgabe hat mir Kopfschmerzen bereitet. Ich möchte einfach den Benutzer einen beliebigen Text eingeben lassen, der float.TryParse in einem Textboxish Steuerelement folgt. Ic

4Hitze

3Antwort

Gibt es eine endgültige Lösung für Fließkommafehler in Javascript?

Ich schreibe Branchenanwendungen. Ich würde gerne ein Front-End-Ende mit Javascript bauen und versuche herauszufinden, wie man mit einem Floating-Point-Fehler umgehen kann (ich verstehe aus der Sicht

3Hitze

1Antwort

Wie konvertiere ich eine Dezimalzahl in REAL10 in MASM-Assembly?

Momentan konvertiere ich den String, der die Dezimalzahl enthält, in eine ganze Zahl (ignoriere den Basispunkt für jetzt), lade ihn in ST (0) und dividiere durch die richtige Zehnerpotenz, um den Basi

11Hitze

1Antwort

Was bedeutet Gleitkommafehler -1. # J?

Kürzlich, manchmal (selten), wenn wir Daten aus unserer Anwendung exportieren, enthält das Exportprotokoll Float-Werte, die wie "-1. # J" aussehen. Ich konnte es nicht reproduzieren, daher weiß ich ni

21Hitze

9Antwort

Was ist genauer, x **. 5 oder math.sqrt (x)?

ich kürzlich entdeckt, dass x**.5 und math.sqrt(x) nicht immer das gleiche Ergebnis in Python produzieren: Python 2.6.1 (r261:67517, Dec 4 2008, 16:51:00) [MSC v.1500 32 bit (Intel)] on win32 >>> 88

0Hitze

3Antwort

welche Vorsichtsmaßnahme zu ergreifen ist, wenn etwas wie $ price = (int) ((0.1 + 0.7) * 10); und bekommt 7 als Antwort

in PHP echo (int) ((0.1+0.7) * 10); oder in Ruby p ((0.1+0.7) *10).to_i das Ergebnis 7 statt 8 könnte es wirklich schwer für solche Fallen zu fangen. Ich denke, wenn es in Nordamerika ist, ist es

23Hitze

5Antwort

Unit Tests Float-Operationen in Visual Studio 2008 Pro

Ich habe einige C# Unit-Tests, die einige float/double-Operationen durchführen, und ich möchte Einheit testen sie. Assert.AreEqual ist aufgrund von Rundungsfehlern nicht ausreichend. Nehmen Sie die Ei