floating-point

0Hitze

1Antwort

Intel x86_64 hinzufügen Assembly ganze Zahl mit doppelter Genauigkeit Schwimmer SSE, SSE2

Um so etwas zu erreichen: for (int i=0; i < height; i++) { double relY = cY-i; ... L1: cmp rax, [rsi] jz end mov xmm2, rax ;<---- ... Wie kann ich 32bit int double p

assembly floating-point x86-64 intel 2016-05-31

---

4Hitze

2Antwort

Normalisierte Ganzzahl zu/von Float-Konvertierung

Ich muss normalisierte Integer-Werte in und von realen Gleitkommawerten konvertieren. Für int16_t wird beispielsweise ein Wert von 1,0 durch 32767 und -1,0 durch -32768 dargestellt. Obwohl es für jede

c++ floating-point integer 2016-06-01

---

1Hitze

2Antwort

Unity C# Konvertieren Float in Byte-Array und lesen mit Knoten js

Kann jemand erklären, wie ich einen Float (Vector3.x) in ein Byte-Array mit C# konvertieren und mit Knoten js dekodieren kann? Ich habe im Internet gelesen, dass Vector3.x ein System.Single Datentyp i

c# node.js floating-point buffer bytearray 2016-06-02

---

3Hitze

3Antwort

Extrahieren Float-Werte aus einer Zeichenfolge in Java

Ich habe eine Zeichenfolge wie diese "Humidity: 14.00% Temperature:28.00 C". Ich möchte die zwei float-Werte aus der Zeichenfolge extrahieren, wie kann ich das tun?

java regex string floating-point 2016-06-03

---

0Hitze

2Antwort

Kolmogorov Smrinov Test in C++

Ich schrieb ein Programm in C++ für Kolmogorov Smrinov Test, aber es funktioniert nicht. Es gibt nicht d + (dp), d- (dn) einen korrekten Wert zurück. Ich konnte im Programm keinen Fehler finden. Bitte

c arrays floating-point kolmogorov-smirnov 2016-06-04

---

2Hitze

3Antwort

Wie entscheide ich, wie viele Dezimalstellen ich für meinen Float in c verwenden soll

Wie entscheide ich, wie viele Dezimalstellen ich für meinen Float verwenden soll. siehe, ich habe dieses code` int main (void) { printf("please give me an integer: "); float num = GetFloat(

c floating-point 2016-06-04

---

3Hitze

2Antwort

Vergleich Gleitkommazahlen in D

ich zur Zeit ist die Umsetzung Quaternionen und ich laufe in das folgende Problem unittest{ auto q1 = Quaternion(Vec3f(1, 0, 0), Degrees(90)); writeln("length ", q1.magnitude); assert(q

floating-point d 2016-06-06

---

4Hitze

2Antwort

_double.Equals (_float);

Beispielcode: double d = 0; float f = 0; // Dump() prints result in LinqPad application (f == d).Dump(); // 1) true (d == f).Dump(); // 2) true (f.Equals(d)).Dump(); // 3) false (d.Equals(f))

c# floating-point 2016-06-07

---

0Hitze

2Antwort

Finden Sie die Nummer mit den maximalen Ziffern darin

Dies war eine Prüfungsfrage vor ein paar Jahren, und ich habe Mühe, es zu lösen. Ich muss ein Programm erstellen, das aus einer Textdatei eine Reihe von Zahlen mit einem Leerzeichen dazwischen liest,

c file floating-point numbers 2016-06-08

---

1Hitze

1Antwort

Rounding in Python

round(1.4 999 999 999 999 999) (ohne Leerzeichen) wird auf 2 gerundet aber round(1.4 99 999 999 999 999) (ohne Leerzeichen) auf 1 abgerundet wird ich nehme an, dies mit ungenauen Gleitkommadarstellung

python-3.x floating-point rounding 2016-06-09

---