我正在阅读论文Learning to Prune Filters in Convolutional Neural Networks，这是关于使用强化学习（策略梯度）修剪 CNN 过滤器的。论文说剪枝代理（代理是卷积神经网络）的输入是一个形状为 的二维(N_l, M_l)数组，其中N_l是过滤器的数量，（M_l = m x h x w和是过滤器维度），输出是一个动作数组（每个元素都是0（不必要的过滤器）或1（必要的））并表示为了近似梯度，我们必须对输出时间进行采样（使用 REINFORCE 算法）。mlhM
由于我有一个输入，我如何多次采样输出分布（不更新 CNN 参数）？
如果我遗漏了什么，请告诉我我错在哪里
我不确定一个输入是什么意思。剪枝代理的输入总是相同的，它是卷积层维度的. 该层取自预训练的基线模型。输入不会改变它总是一样的。修剪代理的输出是修剪特定过滤器的概率数组。例如，如果您有过滤层，剪枝代理的输出将是数组元素。让我们说它
这些元素中的每一个都代表修剪过滤器的概率在层. 所以将是修剪过滤器的概率,修剪过滤器和修剪过滤器. 假设您对该分布进行采样次，你得到：. 这意味着您将从原始基线模型制作 2 个不同的模型。第一个模型将在层中修剪第二个和第三个过滤器，第二个模型将修剪第三个过滤器。你在你的训练集和验证集上运行这两个新模型，计算目标函数. 然后你更新参数您的修剪代理基于. 层的原始权重保持不变。然后你对剪枝模型进行另一个推断带有更新的参数（输入仍然是原始的）。你会得到另一个概率数组，你会不断重复我之前描述的步骤，直到参数收敛。当它们收敛时，您将进行最后的修剪。