precision

181Hitze

3Antwort

Wie interpretiere ich die Genauigkeit und Skalierung einer Zahl in einer Datenbank?

Ich habe die folgende Spalte in einer Datenbank angegeben: Dezimal (5,2) Wie interpretiert man das? Nach den Eigenschaften in der Spalte, wie in SQL Server Management Studio angezeigt, kann ich sehen,

database decimal precision scale 2010-03-04

---

5Hitze

4Antwort

Java: Den eigenen Datentyp verwenden? (zB long long double?)

Ich denke nur darüber nach, ob es möglich ist, den eigenen Datentyp zu erstellen? Wenn Sie also mehr Präzision benötigen, die von einem der Basistypen nicht unterstützt wird, können Sie einfach Ihre e

java precision types 2010-03-10

---

7Hitze

2Antwort

doppelt minus doppelt geben Präzisionsprobleme

Ich bin auf ein Präzisions-Problem mit Doppel in .NET gestoßen. Ich dachte, dass dies nur für Schwimmer gilt, aber jetzt sehe ich, dass Doppel ist ein float. double test = 278.97 - 90.46; Debug.Write

c# double precision 2010-04-30

---

33Hitze

9Antwort

Finden Winkel zwischen Stunden- und Minutenzeiger in einer Analoguhr

ich dieses Interview Frage vor kurzem gegeben wurde: eine 12-Stunden-analoge Uhr gegeben, berechnen den kleineren Winkel zwischen der Stunden- und Minutenzeigern in Graden. Sei so präzise wie du kanns

math floating-point precision angle 2010-05-01

---

74Hitze

6Antwort

C# DateTime.Now Genauigkeit

Ich habe gerade einige unerwartete Verhalten mit DateTime.UtcNow bei einigen Komponententests lief. Wenn Sie DateTime.Now/UtcNow in schneller Folge aufrufen, scheint es, als ob Sie den gleichen Wert f

c# .net datetime precision time-precision 2010-01-26

---

6Hitze

1Antwort

C# - Problem mit sehr kleinen Zahlen - nicht genügend Ziffern in doppeltem Datentyp

Ich schreibe ein Programm in C#, das sehr kleine Zahlen berechnen soll. Alle meine Berechnungen erhalten jedoch einen NaN-Wert, da sie für den 'doppelten' Datentyp zu klein sind. Gibt es eine Option i

c# double precision 2010-01-29

---

12Hitze

2Antwort

Mindestanzahl von Dezimalstellen für die Genauigkeit von std :: ostream festlegen

Gibt es eine Möglichkeit, die "minimale" Anzahl von Dezimalstellen festzulegen, die ein std :: ostream ausgeben soll? Zum Beispiel sagen, dass ich zwei unbekannte Doppel Variablen, die ich drucken möc

c++ decimal precision ostream 2010-03-22

---

10Hitze

3Antwort

Warum ist diese Berechnung so falsch?

Ist es überhaupt so ungenau? Ich habe die ganze Sache mit Apfloat willkürlich präzisiert und es machte keinen Unterschied, mit welchem ​​ich hätte anfangen sollen !! public static double bearing(LatLn

java gis precision double-precision 2010-02-09

---

9Hitze

4Antwort

C# Schwimmer Dezimalumwandlung

Jede intelligente Art und Weise einen Schwimmer so zu konvertieren: float f = 711989.98f; in eine Dezimalzahl (oder doppelt), ohne zu verlieren Präzision? Ich habe versucht: decimal d = (decimal)f;

c# floating-point precision 2010-04-07

---

23Hitze

3Antwort

Wie Java String.format mit einer variablen Genauigkeit?

Ich möchte die Genauigkeit einer doppelten Darstellung in einer Zeichenfolge variieren, die ich basierend auf Benutzereingaben formatiere. Im Moment versuche ich, so etwas wie: String foo = String.for

java string rounding precision floating-accuracy 2010-02-20

---