floating-point

-2Hitze

1Antwort

Vermeidung von Null-Float-Division in Schleifen - Python

Sorry, ich bin ein bisschen ein Anfänger mit Programmierung, aber ich bekomme einen Float Division Fehler in einer einfachen Schleife, die ich nicht sicher bin, wie zu korrigieren. ist hier ein Code i

python-2.7 floating-point divide-by-zero 2016-06-28

---

1Hitze

1Antwort

I kann nicht Zuweisung Wert zu dem Zell Python pandas

Ich habe den folgenden Code: for i in range(len(list_sort)): list_sort[i] = list_sort[i].reset_index() classification = 1 list_sort[i].set_value(0, list_column[k], classification)

python pandas floating-point 2016-06-28

---

2Hitze

1Antwort

Warum ist das Runden von 0,5 (Dezimal) nicht exakt?

eine Hälfte, das heißt 0,5 in dezimale, hat eine genaue Binärdarstellung: 0,1 Dennoch, wenn ich ihn um auf ganzzahlige, I 0 erhalten statt 1 habe ich versucht, in Python und C, die gleich verhalten. Z

python floating-point rounding floating-accuracy 2016-06-29

---

0Hitze

1Antwort

Java Rundung Int-Werte in Abhängigkeit von arithmetischen Ergebnis

Nehmen wir an, ich mache einige arithmetische Berechnungen (wie Division und dann Addition) auf int Werte und möchten dann das Ergebnis in einem int Wert speichern. Wie runde ich Werte, die größer als

java math floating-point rounding precision 2016-06-30

---

0Hitze

3Antwort

Wie konvertiere ich ein Float in eine Zeichenfolge, die in einem Hash verschachtelt ist, und setzt dann?

Ich bin neu in Ruby. Ich habe erfolgreich "title" mit puts in diesem Code unten gedruckt, das zieht aus den Daten von . hash["inventory"].each do |key| puts key["title"] end Allerdings, wenn i

arrays ruby string hash floating-point 2016-07-02

---

3Hitze

2Antwort

Float-zu-Fraction-Konvertierung in Python

Während der Übung zum Thema Float-Typ zu Fraction-Typ-Konvertierung in Python 3.52, fand ich den Unterschied zwischen den beiden verschiedenen Möglichkeiten der Konvertierung. Die erste Methode ist: >

python floating-point type-conversion fractions 2016-07-03

---

1Hitze

2Antwort

Gleitkommakonstante

Für den folgenden Code: #include<stdio.h> int main() { float a = 0.7; printf("%.10f %.10f\n", 0.7f, a); return 0; } Der Ausgang ich erhalte, ist: 0,7000000000 0,6999999881 Bitte e

c floating-point 2016-07-04

---

1Hitze

1Antwort

Probleme mit der arithmetischen Genauigkeit beim Testen auf den Schnittpunkt zweier Liniensegmente

Ich habe einen Code geschrieben, der den Schnittpunkt zweier Liniensegmente in der Ebene testet. Ich werde dich nicht mit allen Details belästigen. Der Code benötigt zwei Liniensegmente, die jeweils d

python floating-point precision 2016-07-04

---

-1Hitze

2Antwort

Warum werden bei der Umwandlung primitiver Datentypen Gleitkommawerte abgeschnitten?

Umformen von Gleitkommazahlen in Ganzzahlen werden meistens mit Umsetzungen primitiver Typen durchgeführt. Wenn wir das tun, wird der Bruchteil des Fließkommawerts einfach abgeschnitten. Warum? public

java floating-point logic type-conversion 2016-07-07

---

0Hitze

1Antwort

Welche Rundungsmethode wird in Java verwendet, wenn mit Gleitkommazahlen gearbeitet wird?

Die Sprache ist Java und die Maschine ist ein normaler PC mit einem Intel-Prozessor. Der Typ ist doppelt. Fließkommazahlen können nicht genau jede gebrochene Zahl darstellen, das Ergebnis der Operatio

java floating-point operation rounding-error 2016-07-07

---