Ich trainiere ein neuronales Netz mit einem DataFeeder, die ein bisschen langsam ist (weil es nicht zusammenhängende Daten aus einer h5-Datei liest); Die Grafikkarte ist also die Hälfte der Zeit leer (GPU-Util liegt bei 0%).Queue Eingabedaten mit Tensorflow oder SkFlow
Gibt es eine Möglichkeit, in TensorFlow oder skflow mehrere DataFeeder s parallel laufen zu lassen, um diesen Engpass zu vermeiden?
Tensorflow verfügt über reader library, die parallel (und in C++) Daten lesen und in eine Warteschlange stellen können. Dies sollte den Engpass beseitigen, über den Sie sprechen.
Wir sind derzeit (diese/nächste Woche), die Unterstützung zu tf.learn (neuer Name für skflow) hinzuzufügen, um es einfach zu verwenden zu machen. Sie müssen Ihre Daten immer noch in eines der von den Lesern unterstützten Formate konvertieren (feste len vectors, Example proto).
Wenn Sie versuchen möchten, es selbst zu arbeiten - Sie können einen separaten DataFeeder erstellen, der die Ops aus der Reader-Bibliothek in input_builder Funktion verwenden und No-Op in get_feed_dict_fn zurückgeben würde.