numerical

15Hitze

5Antwort

Ich suche nach einer Polynom-Kleinste-Quadrate-Regression und suche nach einer C# -Bibliothek, um die Berechnungen für mich durchzuführen. geben I in den Datenpunkten und dem Grad der Polynom (2. Ordn

0Hitze

8Antwort

.NET NumericTextBox

Wer weiß, warum Microsoft ein numerisches Textfeld mit seinem .NET-Framework z. ein Textfeld, das sicherstellen würde, dass die eingegebenen Zeichen immer eine gültige Nummer sind? Es ist etwas, das h

0Hitze

2Antwort

Numerische Daten alphabetisch sortieren

Gibt es Situationen, in denen es sinnvoll ist, numerische Daten alphabetisch zu sortieren? für z.B. 111 12 2 wenn aufsteigend sortiert, geben: 111 12 2

0Hitze

2Antwort

Genauigkeit von ZHEEV und ZHEEVD

Ich verwende LAPACK, um komplexe hermitesche Matrizen zu diagonalisieren. Ich kann zwischen ZHEEV und ZHEEVD wählen. Welche dieser Routinen ist genauer für Matrizen der Größe 40 und eine Reihe von Eig

22Hitze

7Antwort

Wann verwende ich Fixed Point?

Für intensives Zahlen-Knirschen erwäge ich, Fixpunkte statt Gleitkommazahlen zu verwenden. Natürlich ist es egal, wie viele Bytes der Fixpunkttyp in der Größe ist, auf welcher CPU er läuft, ob ich (fü

7Hitze

2Antwort

Gibt es eine Möglichkeit, die Genauigkeit zu reduzieren, um den Speicherverbrauch zu reduzieren?

Auf meinem 64-Bit Debian/Lenny-System (4 GByte RAM + 4 GByte Swap-Partition) I erfolgreich tun können: v=array(10000*random([512,512,512]),dtype=np.int16) f=fftn(v) aber mit f ist ein np.complex128