floating-point

8Hitze

2Antwort

Converting SQL FLOAT zu SQL INT, verlorene Daten

Ich habe einige Probleme mit der Konvertierung einiger Daten in einem FLOAT-Datentyp in Daten in einem INT-Datentyp gespeichert. Das folgende Beispiel zeigt mein Problem: DECLARE @data TABLE ( id INT

2Hitze

2Antwort

implizite Konvertierung verkürzt 64 Bit auf 32 Bit

Kann jemand erklären, warum dies den im Titel angegebenen Fehler verursacht? CGFloat dx = fabs(lastPoint.x - currentPoint.x); Dank

2Hitze

5Antwort

Fließkomma-Arithmetik zur Kompilierzeit

Werden Fließkommaberechnungen während der Kompilierungszeit oder während der Laufzeit ausgeführt, die konstante Ganzzahlen zum Kompilieren verwenden? Zum Beispiel, wenn die Teilungsoperation berechnet

7Hitze

4Antwort

C# Generics: wie x.MaxValue/x.MinValue (int, float, double) in einer generischen Klasse

Ich verwende das WPF Extended Toolkit (http://wpftoolkit.codeplex.com/). Es hat ein nettes NumericUpDown-Steuerelement, das ich gerne verwenden würde, aber intern verwendet es doubles - was bedeutet,

5Hitze

2Antwort

Entfernen Sie das E-Zeichen von der großen Float-Nummer, C#?

Wenn Sie große Fließkommazahl verwendet, fand man in Nummer C# große Schwimmer ist wie folgt gezeigt: 2000000 * 2000000 = 4E + 12 Wie ich 4E + 12 als 4.000.000.000.000 nicht 4E + 12 zeigen?

1Hitze

1Antwort

Kann ich ein Floating-Point # von einem GP laden registriert

Kann ich ein Floating-Point von einem allgemeinen Zweck wie dieses Register laden: lwc1 $f12, 0($t4) Es gib mir diesen Fehler: "$f12": operand is of incorrect type

26Hitze

4Antwort

Visual Studio C++ 2008/2010 - Pause auf Float NaN

Gibt es eine Möglichkeit zum Einrichten von Visual Studio (nur von 2008 bis 2010 aktualisiert) zu brechen, als ob eine Assertion fehlgeschlagen, wann immer eine Fließkommazahl wird NaN, QNAN, INF usw.

9Hitze

1Antwort

Erzwinge, dass alle QNaN normal NaN (SNaN) sind, sodass Ausnahmen ausgelöst werden.

Ich habe Visual Studio so konfiguriert, dass Gleitkommaausnahmen über die _controlfp-Funktion ausgelöst werden. Dies funktioniert für NAN und INF, aber nicht für QNAN. I.e. Quiet NaNs verursachen kein

3Hitze

4Antwort

Konvertieren exponentielle Anzahl in Dezimalzahlen in php

Ich habe eine Gleitkommazahl in Exponentialformat heißt 4.1595246940817E-17 und ich es in Dezimalzahl wie 2,99 usw. Jede Hilfe geschätzt wird konvertieren möchten. format_number()sprintf() scheinen ni

1Hitze

2Antwort

Ich bin in der Notwendigkeit für einen Floating-Point-Experten

Kann jemand mich im Detail erklären, wie diese log2 Funktion funktioniert: inline float fast_log2 (float val) { int * const exp_ptr = reinterpret_cast <int *> (&val); int x = *exp_ptr;