Schnelle LAPACK/BLAS für die Matrix-Multiplikation

Question

Ich erkunde gerade die Armadillo C++ Bibliothek für lineare Algebra. Soweit ich es verstanden habe, verwendet es die LAPACK/BLAS-Bibliothek für grundlegende Matrixoperationen (z. B. Matrixmultiplikation). Als Windows-Benutzer habe ich LAPACK/BLAS von hier heruntergeladen: http://icl.cs.utk.edu/lapack-for-windows/lapack/#running. Das Problem ist, dass Matrixmultiplikationen verglichen mit Matlab oder sogar R sehr langsam sind. Zum Beispiel multipliziert Matlab zwei 1000x1000 Matrizen in ~ 0,15 Sekunden auf meinem Computer, R benötigt ~ 1 Sekunde, während C++/Armadillo/LAPACK/BLAS mehr als 10 benötigt Sekunden dafür.

So basiert Matlab auf hoch optimierten Bibliotheken für lineare Algebra. Meine Frage ist, ob es einen schnelleren LAPACK/BLAS Bray gibt, der von Armadillo verwendet werden kann? Gibt es alternativ eine Möglichkeit, Matlab-Bibliotheken für lineare Algebra irgendwie zu extrahieren und sie in C++ zu verwenden?

Answer 1

LAPACK nicht Matrixmultiplikation tun. Es ist BLAS, das Matrixmultiplikation bereitstellt.

Wenn Sie ein 64-Bit-Betriebssystem haben, empfehle ich, zuerst eine 64-Bit-Version von BLAS zu versuchen. Dies wird Ihnen eine sofortige Verdoppelung der Leistung bringen.

Zweitens, schauen Sie sich eine leistungsstarke Implementierung von BLAS, wie OpenBLAS. OpenBLAS verwendet sowohl Vektorisierung als auch Parallelisierung (dh Multi-Core). Es ist ein kostenloses (kostenloses) Open-Source-Projekt.

Matlab verwendet intern die Intel MKL-Bibliothek, die Sie auch mit der Armadillo library verwenden können. Intel MKL ist eine geschlossene Quelle, ist aber für nicht-kommerzielle Nutzung frei. Beachten Sie, dass OpenBLAS eine Matrixmultiplikationsleistung erzielen kann, die gleich oder besser als Intel MKL ist.

Beachten Sie, dass lineare Hochleistungsalgebra unter Linux und Mac OS X im Allgemeinen einfacher zu erreichen ist als unter Windows.

Answer 2

gibt es eine Möglichkeit Matlab linearen Algebra Bibliotheken irgendwie zu extrahieren und sie in C++ verwendet Ja, für C++ Aufruf Matlab-Funktion, auf diesen Link verweisen: How to Call Matlab Functions from C++

Answer 3

Mehrere C++ lib für lineare Algebra bietet eine einfache Möglichkeit, Link mit hochoptimierter Lib.

Blick auf http://software.intel.com/en-us/articles/intelr-mkl-and-c-template-libraries

sollten Sie in der Lage sein Armadillo für mehr Leistung auf die MKL zu verbinden, aber es ist ein kommerzielles Paket,

Answer 4

Hinzufügen zu dem, was bereits gesagt wurde, sollten Sie auch ein hohes Maß an Optimierung verwenden:

1. Achten Sie darauf, entweder die O2 oder die O3 Compiler-Flag.

2. Link zu den oben genannten Hochleistungs (und möglicherweise multi-threaded) BLAS-Bibliotheken. AFAIK MKL ist jedoch nur für Unix-Plattformen frei verfügbar, wenn Sie eine Linux-Box wie Cygwin in Windows verwenden, sollte dies in Ordnung sein, denke ich. OpenBLAS ist auch multi-threaded.

3. In vielen Bibliotheken, setzt das Setzen des Symbols NDEBUG (z. B. Übergabe des Compiler-Flags -DNDEBUG) teure Bereichsüberprüfung und Assertions deaktiviert.Armadillo hat sein eigenes Symbol namens ARMA_NO_DEBUG, das Sie entweder manuell einstellen können, oder Sie können die Header-Datei config.hpp (im Verzeichnis armadillo include) bearbeiten und die entsprechende Zeile auskommentieren. Ich vermute, bin da Sie in der Lage waren, in Gürteltier auf externe BLAS Nutzung zu wenden, sollten Sie mit dieser Konfigurationsdatei vertraut sowieso ...

ich zwischen Gürteltier/MKL_BLAS und Matlab auf meinem Intel Core einen schnellen Vergleich tat -i7 Arbeitsplatz. Für die C++ - Exe habe ich -O3, MKL BLAS verwendet und ARMA_NO_DEBUG definiert. Ich multiplizierte 1000x1000 Zufallsmatrizen 100 Mal und gemittelt die Multiplikationszeiten. Die C++ Implementierung war etwa 1,5 mal schneller als Matlab.

hoffe, das hilft