究竟什么是超参数?

机器算法验证 术语 定义 超参数
2022-03-27 20:12:08

标题说明了一切。

我已经看到了“狄利克雷分布的超参数”和“狄利克雷分布的参数”

有什么区别?

1个回答

超参数是某个参数的(先验)分布的参数。

因此,举一个简单的例子,假设我们声明某个问题中的方差参数上具有统一的先验。τ2(0,θ)

(我个人不太可能做这样的事情,但它发生了;我可能在某些非常特殊的情况下)

那么是一个参数(在数据分布中),而是一个超参数τ2θ

如果我们反过来为指定一个(先验)分布(例如,它是平均值为 100 和形状参数为 2 的 Gamma),那就是超先验 - 先验分布参数的先验分布。θ