Theano hat unterschiedliche Ergebnisse auf CPU und GPU

Question

Ich schrieb ein Theano Machine Learning-Programm. Aber ich habe zwei absolut unterschiedliche Ergebnisse zwischen CPU und GPU.

Unten finden Sie das Protokoll. (Nur ein winziger Teil von log)

result on GPU

result on CPU

Der Funktionsverlust verringert sich schnell und dann auf 0,2 auf CPU converg.

Allerdings wird die Verlustfunktion erhöhen und schließlich NaN auf GPU werden.

Welche Fehler können in meinem Programm enthalten sein? Oder was sollte ich beachten? Vielen Dank!

Answer 1

Könnte es sein, dass die CPU float64 (doppelte Genauigkeit) verwendet und die GPU float32 (einfache Genauigkeit) verwendet? Hier können Sie die Konfigurationsflags nachschauen: http://deeplearning.net/software/theano/library/config.html

Answer 2

Schauen Sie sich dieses Themas ... https://github.com/fchollet/keras/issues/511 Grundsätzlich Zugabe;

optimizer_excluding=cudnn 

in der .theanorc löste es für mich, aber die Lösung läuft langsamer.