这是一个很好的问题——我不确定回答这个问题的最佳方法是什么，但在统计框架中，我相信差异会更明显一些。我很想看看其他人如何从更纯粹的 ML/DL 角度回答这个问题。

我认为它们不同的一个方式是参数（最后从统计的角度来看）是可以进行推断的东西，而超参数是算法的一个元素，可以对其进行调整以优化它。

举一个具体的例子，假设您正在为线性回归模型运行 LASSO 类型的惩罚。这$\beta$权重/系数是参数，因为人们可以对估计值做出决定并确定相关性或方向性（即，检查 LASSO 程序中哪些系数不为 0，或者哪些“防止”与“增加”风险）。使用相同的 LASSO 示例，$\alpha$惩罚函数的权重可以被认为是一个超参数，因为$\alpha$不会提供对模型/事后分析的任何见解。

这有点“统计”的角度来看待 b/w 什么是参数与超参数之间的差异，尽管这是如何区分的一个选项。使用非参数算法、决策树和神经网络，这就是我认为有更多灰色区域的地方。