precision

5Hitze

1Antwort

Verbessern Präzision auf Variablen durch ganzzahlige Quotienten definiert

Say I haben folgendes Programm: program derp implicit none integer, parameter :: ikind = selected_real_kind(18) real (kind = ikind) :: a = 2.0/3.0 print*, a end program derp Das

fortran precision 2013-05-10

---

5Hitze

1Antwort

C++ streamsize prec = cout.precision (3) - Wie funktioniert es?

Ich bin ein bisschen Neuling in der Verwendung von C++. Ich habe eine kurze Frage, wahrscheinlich eine dumme Frage. streamsize prec = cout.precision(3); Wie ich richtig diese Erklärung verstehen fun

c++ copy precision cout assign 2013-05-10

---

10Hitze

2Antwort

Precise Linux Timing - Was bestimmt die Auflösung von clock_gettime()?

Ich brauche präzise Zeitsteuerung für die 1 us-Ebene zu Zeit eine Änderung im Tastverhältnis einer PWM-Welle. Hintergrund ich eine Gumstix über Wasser COM bin mit (https://www.gumstix.com/store/app.ph

c precision timing gettime gumstix 2013-08-20

---

10Hitze

3Antwort

Warum ist die Ausgabe von inv() und pinv() in Matlab und Octave nicht gleich?

Ich habe festgestellt, dass, wenn A eine NxN-Matrix ist und es die inverse Matrix hat. Aber was die Funktion inv() und pinv() ausgibt, ist anders. - Meine Umgebung ist Win7x64 SP1, Matlab R2012a, Cygw

matlab precision floating-accuracy matrix-inverse numerical-analysis 2013-10-17

---

8Hitze

1Antwort

AVMetadataFaceObject Precision

Ich versuche die AVMetadataFaceObject zu verwenden, um das Gieren und Rollen eines Gesichts in einem Video zu erhalten. Von dem, was ich sagen kann, ist die Präzision des Gierens in Schritten von 45 G

ios objective-c avfoundation precision 2013-05-28

---

5Hitze

3Antwort

Float und Double Datentyp ist gut, um Lattitude und Longitude zu speichern?

Ich speichere Längen- und Breitengrad auf der Serverseite (JAVA Platform). Um diese Werte zu speichern, verwende ich float und double-Datentyp auf der Serverseite. Ich habe erfahren, dass float und do

java google-maps google-maps-api-3 precision type-conversion 2013-12-18

---

5Hitze

2Antwort

Doppelter Wert mit zwei Dezimalstellen unter Verwendung von NumberFormat

Ich verwende java.text.NumberFormat, um meinen doppelten Wert in zwei Dezimalstellen mit Conman-Format zu konvertieren. Mein Code der Zeile ist: NumberFormat.getNumberInstance(Locale.US).format(53508)

java format double precision number-formatting 2014-04-05

---

6Hitze

3Antwort

Setzen Sie die Genauigkeit für eine Float-Nummer in PHP

Ich bekomme eine Nummer aus der Datenbank und diese Nummer könnte entweder float oder int sein. Ich brauche die Dezimalgenauigkeit der Anzahl an 3 zu setzen, die die Zahl nicht mehr als (in Bezug auf

php precision rounding 2013-11-09

---

5Hitze

5Antwort

Trunking ein Doppel zu einem Float in C

Dies ist eine sehr einfache Frage, aber eine wichtige, da es mein ganzes Projekt enorm beeinflusst. Angenommen, ich habe folgendes Codestück: unsigned int x = 0xffffffff; float f = (float)((double)x

c floating-point double precision floating-accuracy 2013-08-06

---

16Hitze

1Antwort

Numpy: Differenz zwischen dot (a, b) und (a * b) .sum()

Für 1-D numpy Arrays, diese beiden Ausdrücke sollte das gleiche Ergebnis (theorically) Ausbeute: (a*b).sum()/a.sum() dot(a, b)/a.sum() The Letzteres verwendet dot() und ist schneller. Aber welcher

python numpy scipy precision floating-accuracy 2013-08-07

---