我正在使用随机梯度下降实现逻辑回归，但它没有按预期工作。我已经尝试了许多时期和不同的学习率但属于正确类别的概率在左右振荡。我有两个表示为的类和两个特征。这个方案正确吗？：$\alpha$$0.5$$0,1$

将权重初始化为某个随机数（我选择 1）并循环：$w = [w_0, w_1, w_2]$

1. 选择随机训练样本。$x_i = [1, x_1, x_2]$
2. 计算它属于第$1,$ $$P(\hat{y} = 1) = \frac{1}{1+e^{-w \cdot x_i}}$$
3. 根据 $$w = w + \alpha x_i(y_i - P(\hat{y} = 1))$$

这个方案对我来说很有意义，因为如果属于类的概率很低，如果正确的类是 ，那么对权重的更新会很大，但我无法验证它更多。$1$$1$