arbitrary-precision

1Hitze

2Antwort

Wie kann ich die Genauigkeit einer Zahl als einstellbaren Parameter deklarieren?

Im Jahr 2013 gab es eine Frage zum Umwandeln eines großen Arbeitscodes von doppelter in vierfache Genauigkeit: "Converting a working code from double-precision to quadruple-precision: How to read quad

gcc fortran precision gfortran arbitrary-precision 2016-07-16

---

2Hitze

1Antwort

Eine doppelte symbolische Integral in Matlab

Ich versuche, einige Integrale, zum Beispiel zu berechnen: a = 1/sqrt(2); b = -5; c = 62; d = 1; f = exp(-x^2-y^2)*(erfc((sym(a) + 1/(x^2+y^2)*(sym(b)*x+sym(d)*y))*sqrt((x^2+y^2)*sym(10.^(c/10))))

matlab symbolic-math arbitrary-precision 2016-04-11

---

1Hitze

1Antwort

Double-Double-Precision Fließkomma als Summe aus zwei Doppel

Nach papers and source code for double-double arithmetic seit einiger Zeit kann ich immer noch nicht herausfinden, wie genau eine dd_real (definiert als struct dd_real { double x[2];...}) Zahl in zwei

floating-point arbitrary-precision 2012-03-25

---

0Hitze

2Antwort

Algorithmus zum Lösen von Dezimal Exponenten ohne Brüche

Könnte jemand die Schritte erklären, die bei der Lösung von etwas wie 2^2.2 beteiligt sind, wenn Brüche nicht verwendet werden könnten, wie in einer unendlichen Genauigkeitsberechnung?

math arbitrary-precision 2012-03-25

---

11Hitze

3Antwort

Gibt es eine beliebige Gleitkomma-Bibliothek für C/C++, die beliebige Präzisionsexponenten erlaubt?

Ich bin auf der Suche nach einer Gleitkomma-Bibliothek mit beliebiger Genauigkeit für C/C++ (einfaches C ist bevorzugt). Ich brauche willkürliche Präzisionsexponenten. GMP und MPFR verwenden Exponente

c++ c floating-point arbitrary-precision 2012-10-13

---

1Hitze

1Antwort

Quadratwurzel in Ruby mit mehr Genauigkeit als BigDecimal.sqrt?

Ich dachte, dass der Zweck von Rubys BigDecimal-Klasse ist, dass es unendlich beliebig präzise auf Kosten der Geschwindigkeit ist. Falsch: > BigDecimal(4).sqrt(4) => #<BigDecimal:906602c,'0.199999999

ruby bigdecimal arbitrary-precision 2012-04-10

---

1Hitze

2Antwort

Umgang mit großen Zahlen mit GMP-Stil Leistung in Go

Ich lerne Go und ich begann mit dem math/big-Paket, um mit arbitrary-length Integer umzugehen. Ich schrieb dieses Programm, das die n-te Fibonacci-Zahl berechnet: (entfernt die import e): func main()

performance go benchmarking arbitrary-precision 2016-03-25

---

11Hitze

3Antwort

Beschleunigung x64 Assembler ADD Schleife

Ich arbeite an Arithmetik für die Multiplikation sehr langer Ganzzahlen (einige 100.000 Dezimalziffern). Als Teil meiner Bibliothek füge ich zwei lange Zahlen hinzu. Profiling zeigt, dass mein Code bi

optimization assembly x86-64 bignum arbitrary-precision 2012-12-20

---

19Hitze

1Antwort

Wie multipliziert man Terabyte-große Zahlen?

Wenn Sie sehr große Zahlen multiplizieren, verwenden Sie eine FFT-basierte Multiplikation (siehe Schönhage–Strassen algorithm). Aus Leistungsgründen speichere ich die Twiddle-Faktoren. Das Problem ist

c performance arbitrary-precision 2015-03-01

---

10Hitze

2Antwort

JVM Arbitrary Precision Libraries

Ich arbeite an einem Projekt (in Scala), wo ich einige sehr große Zahlen manipulieren muss; viel zu groß, um von den integralen Typen dargestellt zu werden. Java stellt die Klassen BigInteger und BigD

java scala biginteger numeric arbitrary-precision 2012-04-26

---