integer-overflow

1Hitze

1Antwort

Geschachtelte MAX bewirkt, dass bei Verwendung verschiedener Objekttypen manchmal der kleinste Wert zurückgegeben wird - MAX (a, MAX (b, c))

Ich habe eine Weile debuggt, bevor ich eine meiner ganzen Zahlen als MAX (2, x) definiert fand war -4, obwohl 2 deutlich größer als -4 ist. Hier ist eine vereinfachte Version von dem, was mein Code au

objective-c integer max integer-overflow 2016-06-28

---

1Hitze

1Antwort

Python TimeDelta-Überlauf

Ich versuche, ein Timedelta zurückzugeben, aber wenn time_value zu groß ist, überläuft es und gibt einen Fehler. Ich kann eine Überprüfung verwenden, um zu sehen, ob time_value zu groß ist, aber ich w

python python-2.7 integer-overflow timedelta 2016-07-21

---

0Hitze

1Antwort

Wie Integer-Überlauf in r auflösen?

Ich habe eine Matrix (MatA) von 1000 Zeilen und 1000 Spalten erstellt, und ich möchte die Kräfte dieser Matrix berechnen. Es funktioniert sehr gut bis zur Berechnung der 3. Potenz der Matrix. Aber wen

r matrix integer-overflow 2016-07-28

---

-3Hitze

2Antwort

Wie vermeidet man das Einpacken von Eingabedaten in c mit gcc?

#include<stdio.h> void main() { unsigned int a; printf("Enter a number:"); scanf("%u",&a); if (a <= 4294967295) { printf("Entered no is within limit\n"); } else {

c linux gcc embedded-linux integer-overflow 2016-07-01

---

0Hitze

1Antwort

Was passiert, wenn das Ergebnis der reduceByKey (_ + _) nicht überschreiten int Bereich

Ich versuche, eine einfache MR Job in Funken zu tun, hier sind die Codes: val testRDD = someRDD.map((_, 1)).reduceByKey(_+_) In der Karte Stufe ist der Wert Int Was ist, wenn in der Reduzierungsstuf

scala apache-spark mapreduce reduce integer-overflow 2016-07-07

---

2Hitze

2Antwort

"Int" Multiplikation in C++ mit "lang lang" Ergebnis

Ich versuche, das Quadrat von int zu finden. Mein Code sieht aus wie folgt: long long sqr=0; int num=77778; sqr= num*num; Das Ergebnis sollte 6049417284 gewesen sein, aber wenn ich die Ausgabe übe

c++ multiplication integer-overflow long-long 2016-06-10

---

0Hitze

1Antwort

Überlauffehler 6 Excel VBA

Ich verwende einen Zähler, um die wahren/falschen Bedingungen in einem Bereich zu verfolgen, wobei der Wert dieses Zählers verwendet wird, um weitere Aktionen zu bestimmen. Allerdings bekomme ich eine

vba excel-vba integer-overflow 2016-08-05

---

1Hitze

2Antwort

Warum ist -0x80000000 + -0x80000000 == 0? Ich

Während ein Buch über programmign Tricks lesen sah, dass -0x80000000 + -0x80000000 = 0. Das ist nicht Sinn für mich so schrieb ich ein schnelles C-Programm unten zu testen und in der Tat ist die Antwo

c integer-overflow 2016-07-10

---

-2Hitze

3Antwort

Erste Ziffer des Produkts aus zwei sehr großen Zahlen

Es gibt 2 große ganze Zahlen, x und y, so dass z = x * y überläuft. Ich möchte die erste Ziffer von x berechnen. Dies ist nicht möglich, da das Ergebnis überläuft. Ich fragte mich, ob es eine bestimmt

c++ math integer-overflow 2016-06-07

---

3Hitze

4Antwort

Differenz zwischen zwei großen Zahlen C#

Es gibt bereits Lösungen für dieses Problem für kleine Zahlen: hier: Difference between 2 numbers hier: C# function to find the delta of two numbers hier: How can I find the difference between 2 value

c# math difference integer-overflow 2016-08-01

---