Wie Tensorflow Platzhalter in get_collection verwenden

Question

Also habe ich ein Problem mit Feed-Variablen. Ich möchte Gewichte und Neigungen meines Modells über die Zeit einfrieren. Ich habe nächste Variablen:

wc1 = tf.Variable(tf.random_normal([f1, f1, _channel, n1], mean=0, stddev=0.01), name="wc1") 
wc2 = tf.Variable(tf.random_normal([f2, f2, n1, n2], mean=0, stddev=0.01), name="wc2") 
wc3 = tf.Variable(tf.random_normal([f3, f3, n2, _channel], mean=0, stddev=0.01), name="wc3") 

bc1 = tf.Variable(tf.random_normal(shape=[n1], mean=0, stddev=0.01), name="bc1") 
bc2 = tf.Variable(tf.random_normal(shape=[n2], mean=0, stddev=0.01), name="bc2") 
bc3 = tf.Variable(tf.random_normal(shape=[_channel], mean=0, stddev=0.01), name="bc3") 

Zum Beispiel ich trainieren will [wc1, bc1] über die erste 10 Epoche, dann [wc2, BC2] für die nächste Epoche und so weiter. Zu diesem Zweck habe ich Variablen Sammlung:

tf.add_to_collection('wc1', wc1) 
tf.add_to_collection('wc1', bc1) 

tf.add_to_collection('wc2', wc2) 
tf.add_to_collection('wc2', bc2) 

Und Platzhalter für Kollektionsnamen erstellen:

trainable_name = tf.placeholder(tf.string, shape=[]) 

Als nächstes versuche ich es in meinem Optimierer erhalten:

opt = tf.train.GradientDescentOptimizer(learning_rate=learning_rate) 
train_op = opt.minimize(cost, var_list=tf.get_collection(trainable_name)) 

-Feed Daten:

sess.run(train_op, feed_dict={ ... , trainable_name: "wc1"}) 

Und ich ge t Fehler:

Traceback (most recent call last): 
    File "/home/keeper121/PycharmProjects/super/sp_train.py", line 292, in <module> 
    train(tiles_names, "model.ckpt") 
    File "/home/keeper121/PycharmProjects/super/sp_train.py", line 123, in train 
    train_op = opt.minimize(cost, var_list=tf.get_collection(trainable_name)) 
    File "/home/keeper121/anaconda/envs/tensorflow/lib/python2.7/site-packages/tensorflow/python/training/optimizer.py", line 193, in minimize 
    grad_loss=grad_loss) 
    File "/home/keeper121/anaconda/envs/tensorflow/lib/python2.7/site-packages/tensorflow/python/training/optimizer.py", line 244, in compute_gradients 
    raise ValueError("No variables to optimize") 
ValueError: No variables to optimize 

Also, irgendwelche Möglichkeiten, Trainingsvariablen über Sitzung zu ändern?

Danke.

Answer 1

Geben Sie das folgende versuchen:

train_op_wc1 = opt.minimize(cost, var_list=tf.get_collection("wc1")) 
train_op_wc2 = opt.minimize(cost, var_list=tf.get_collection("wc2")) 

Und dann, wenn Sie füttern die Daten:

#define your samples as you would always do 
input_feed = ... 
#then use the training op that addresses the correct layers, as you defined above 
if first_10_epoch: 
    sess.run(train_op_wc1, feed_dict=input_feed) 
else: 
    sess.run(train_op_wc2, feed_dict=input_feed)