Logistic 回归中的 Logit 函数

数据挖掘 机器学习 神经网络 逻辑回归
2022-03-06 17:14:22

我已经研究了Perceptron算法,现在我正在尝试理解logistic regression. 我知道奇数比和Logit函数是什么,但我不明白我们为什么要创建以下等式:

logit(p1p)=ω¯Tx¯

哪里w是权重向量。它代表什么,为什么?

谁能告诉我,这是如何工作的?

3个回答

W 只是我们估计的系数,以确定每个变量对模型的贡献。我们试图通过将系数乘以我们拥有的输入变量来估计对数优势比。

如果我们没有 W,默认情况下它只是 1 矩阵乘以 X,或者假设每个变量输出均等地影响响应(忽略预测变量之间的比例差异)。

W表示怀特矩阵。这是您尝试学习的内容,换句话说就是要修复的内容。X是输入数据。在训练期间,您必须提供X特征向量,以便学习参数W您学习此参数矩阵/向量,以便拥有一个代表您的数据的模型。该模型将能够对您的可见和不可见数据进行分类。假设您有以下数据。输入特征向量X是一个二维向量,水平和垂直轴代表每个维度的值。输入特征属于蓝色或红色类。您尝试通过学习找到分隔线。您将学习如何指定参数向量W有一条线将数据分隔到每个类。使用此过程,在学习之后,您将能够根据数据的位置对看不见的数据进行分类。考虑每个参数设置都会导致不同的分隔线。你试图找到最好的。

在此处输入图像描述

你使用逆逻辑f(x)=1/(1+exp(ωx))因为您希望 f(x) 介于 0 和 1 之间(如概率)。如果 f(x) > .5,您将推断为 1,否则为 0。