floating-point

3Hitze

1Antwort

eine Datei von Float und Double lesen?

Wie kann ich fscanf für beide float und double, wie ich eine globale Genauigkeit einmal in einfacher Genauigkeit (float) und einmal in doppelter Genauigkeit (double) deklariert ... also wenn ich es au

c floating-point readfile 2012-04-04

---

2Hitze

6Antwort

Doubles, das sind * genau * gleich 0 sind für (a == b) Rückkehr

Mögliche Duplizieren: C compiler bug (floating point arithmetic)? ich zwei Doppelzimmer haben, die ich garantieren kann, sind genau gleich 150 Dezimalstellen - dh. Mit dem folgenden Code: printf("***c

c comparison floating-point 2012-04-04

---

0Hitze

1Antwort

Wie Float-Array aus Binärdatei in Android lesen?

Ich habe eine Binärdatei, die ich für meine Android-App lesen möchte. Der Inhalt der Datei wurde gespeichert und im "Float" -Format geschrieben. Wie lese ich diese Daten in einem Float-Array? Dank ...

android floating-point 2012-04-04

---

0Hitze

2Antwort

Python und Floats - Nur die ganze Zahl drucken

Gibt es in Python eine Möglichkeit, nur den ganzen Zahlenbereich eines Floats zu drucken, wenn keine zusätzliche Genauigkeit erforderlich ist, um die Zahl auszudrücken? Zum Beispiel der Float 1.0. Ein

c++ python floating-point 2012-04-04

---

1Hitze

1Antwort

Garbage-Bits in der Gleitkommadarstellung von Zahlen in C/C++ Programm

Mögliche Duplizieren: Is JavaScript's Math broken? Dealing with accuracy problems in floating-point numbers den Code Betrachten unten und seine Ausgabe: #include <iostream> #include <iomanip> #inclu

c++ floating-point floating-accuracy 2012-04-04

---

1Hitze

1Antwort

So erstellen Sie eine Fehlerschleife, die den Benutzer darauf beschränkt, nur eine Zahl und einen Dezimalpunkt einzugeben.

Ich arbeite an einer Hausaufgabe, dass ein Benutzer einen Grad Prozentsatz eingeben wird und es wird eine Briefnote ausgeben. Mein Problem ist, dass ich den Benutzer nur auf die Zifferntasten und eine

loops floating-point python-3.2 2012-04-05

---

3Hitze

2Antwort

TSQL: Welcher reelle Zahlentyp führt zu schnelleren Vergleichen

Unter den TSQL-Typen (MSSQL): real, float und decimal; Welcher Typ würde zu schnelleren Vergleichen führen? Würde dezimale hardware FPU Berechnung oder ist es rein in Software?

performance tsql floating-point decimal real-datatype 2012-04-05

---

1Hitze

2Antwort

IEEE 754 Zahlen mit doppelter Genauigkeit von MIPS C zu Java-Konvertierung

Ich habe einen eingebetteten PIC32-Mikrocontroller, der den C32-Compiler ausführt. Ich sende ein UDP-Paket mit einem 64-Bit-Doppelwert an ein Java-Programm. In meinem Test versuche ich den Dezimalwert

java c floating-point pic ieee-754 2012-04-06

---

3Hitze

4Antwort

Java HashMap finden am besten passenden Schlüssel

Ich habe eine Java HashMap mit Float-Schlüssel und String-Werte. Jetzt, wo ein Float gegeben wird, der nicht in der HashMap ist, wie kann ich den Schlüssel finden, der dem gegebenen Float am ähnlichst

java floating-point hashmap 2012-04-06

---

6Hitze

3Antwort

Auspacken hex-encoded Schwimmer

Ich versuche, den folgenden Python-Code in C zu übersetzen ++: import struct import binascii inputstring = ("0000003F" "0000803F" "AD10753F" "00000080") num_vals = 4 for i in range(num_vals):

c++ floating-point hex 2012-04-07

---