没有参数的模型存在吗?
数据挖掘
训练
模型选择
范围
2022-03-02 12:50:51
2个回答
机器学习中有没有没有参数的模型?
是的。k-最近邻 是无参数的(只有一个超参数)。
如果存在这样的无参数模型,那么它们的目的是什么?调整模型参数不是训练的重点吗?
确切地说:这样的模型根本不需要训练。k-NN 特别依赖于在预测时了解数据集。任何接近“训练”这个模型的东西都会将数据点推送到一个集合中,但这些不算作参数。
考虑多数规则的情况。在多数规则中,您检查训练集,检查哪个概念值是多数,并为每个样本返回它。
没有参数,有一个训练过程,分类器有一些价值(主要是作为基准或在极端情况下)。
请注意,“参数”一词有不同的含义,如果没有上下文,很难知道一个是什么意思。
人们可能会提到超参数,例如 k-nn 中的 k。
也可以参考“问题定义”参数,例如 k-nn 中使用的距离函数。
不同的含义实际上是模型的内容。我不确定这两个含义中的哪一个是引用使用的那个,以及我们询问它们的顺序是特征选择方法(意思是 2)还是叶子的路径(意思是 3)
最后一个(也是非常常见的定义)是参数模型中的一个参数,它是“可以使用有限数量的参数来描述的一系列分布。这些参数通常被收集在一起形成一个单一的 k 维参数向量θ = (θ1, θ2, ..., θk)。” 显然,这不是引用中使用的含义。