该autoencoder包只是 Andrew Ng 的课堂笔记中描述的自动编码器的一个实现，这可能是进一步阅读的一个很好的起点。现在，来解决你的问题

a) Lambda ( ) 控制在反向传播期间如何更新权重。成本函数不只是根据模型输出和基本事实之间的差异来更新权重，而是包含一个惩罚大权重的项（实际上是所有权重的平方值）。Lambda 控制这个惩罚项的相对重要性，它倾向于将权重拖向零并有助于避免过度拟合。$\lambda$

b) 罗 ($\rho)$和测试版$(\beta$) 控制稀疏度。Rho 是隐藏单元的预期激活（在训练集中取平均值）。随着它变得更小，表示将变得越来越稀疏。这种稀疏性是通过调整偏置项来施加的，而 beta 控制其更新的大小。（看起来像$\beta$实际上只是重新调整了整体学习率$\alpha$.)

c) 厄普西隆 ($\epsilon)$控制从随机抽取的初始权重值$N(0, \epsilon^2)$.

您的 rho 值似乎并不合理，因为两者都接近激活函数范围的底部（逻辑为 0 到 1，tanh 为 -1 到 1）。但是，这显然取决于您想要的稀疏度以及您使用的隐藏单元的数量。

LeCunn 对小权重的主要关注是，如果您使用对称 sigmoid，误差表面在原点附近会变得非常平坦。在该论文的其他地方，他建议使用从均值为零的正态分布中随机抽取的权重进行初始化，并且$m^{-1/2}$标准差，其中$m$是每个单元接收的连接数。

生成简洁特征表示的能力也可以在其他上下文中使用。这是一个简洁的小项目，其中使用自动编码器生成的状态来指导强化学习算法通过Atari 游戏。

最后，人们还可以使用自动编码器来重建嘈杂或退化的输入，就像这样，这本身就是一个有用的目的。

在我看来，Matt Krause 的某些部分答案并不正确（Lambda 和 Beta），也没有提到 epsilon。实际上这篇文章应该是评论，但由于 50 名誉限制，我正在回答这个问题。如果您发现任何错误，请随时发表评论。

来自http://web.stanford.edu/class/archive/cs/cs294a/cs294a.1104/sparseAutoencoder.pdf Lambda 是权重衰减项的系数，它阻止权重达到较大的值，因为它可能会过拟合。权重衰减项（或权重正则化项）是成本函数的一部分，如下面解释的稀疏项。

rho 是控制隐藏层平均激活次数的稀疏约束。包含它是为了使自动编码器即使在相对于输入单元具有相对大量隐藏单元的情况下也能工作。例如，如果输入大小为 100，隐藏大小为 100 或更大（甚至更小但接近 100），则可以构造输出而不会丢失任何内容，因为隐藏单元可以学习恒等函数。Beta 是稀疏项的系数，稀疏项是成本函数的一部分。它控制稀疏项的相对重要性。Lambda 和 Beta 指定了它们的术语在成本函数中的相对重要性。

Epsilon（如果他们使用与 Andrew Ng 相同的符号）是白化过程的正则化参数，它对输入具有低通滤波器效果。这对重建方法有一些重要影响。检查基于重建的模型下的链接。我认为他们对输出层使用了线性激活并使用了某种类型的白化（单变量特征）。

参数（权重和偏差）的更新率称为学习率，通常用 eta 表示。但是，它已被 Andrew Ng 用作 alpha。检查第一个链接。