Keras [1] 的作者建议Trainable=False
在使用 Keras 中的嵌入层时使用,以防止在训练期间更新权重。Trainable=True
但根据我的经验,在设置文本处理时,我总是能获得更好的性能(回归误差更低) 。
我的问题,我可以要求我的结果还是我必须使用Trainable=False
?使用时会作弊Trainable=True
吗?
根据我的理解,使用(或不使用)之前的信息来更新权重只是一个选择,所以允许使用Trainable=True
.
[1] https://blog.keras.io/using-pre-trained-word-embeddings-in-a-keras-model.html