没有隐藏层的 NN 是否表现得像回归?

数据挖掘 神经网络 线性回归 监督学习
2021-09-29 02:24:29

没有隐藏层的神经网络是否表现得像回归?我们可以说没有隐藏层的NN可以说我们吗?

如果我们有例如 20 个输入和 4 个输出并且我没有真正的标签,它是否类似于回归?

如果是回归,那么它将是监督学习,但没有真正的标签!

这个澄清有什么问题?

更多说明:另外,我有一个 dqn(q-learning 方法中的深度学习结构)!不幸的是,我没有最佳答案!我正在寻找一种方法来比较我的结果,也许我可以通过使用非监督学习方法而不是 DNN 来进行比较!例如,您可以放置​​一个没有隐藏层的 DNN,因为它的行为类似于线性回归,那么您可以使用每个监督学习来代替它!由于没有真正的标签,我在训练部分有问题,并用监督学习估计 DNN 部分!另外,因为它是 MDP,我无法用无监督学习估计 DNN 部分!

2个回答

然后,您将其称为感知模型。就像在 1945 年左右一样,一些研究人员在没有隐藏层的情况下这样做了。他们提出了 AND、OR、XOR 问题,您可以使用单个感知模型解决 AND、OR 问题,但该模型无法解决 XOR 问题。

有两种回归:线性和非线性神经网络中的激活函数使它们成为非线性回归器。

如果您不放置任何激活函数,神经网络将是一个线性回归器。

然后它会像: Wx+b (这是 y=mx+b相等的)。但是当你添加激活函数让它成为sigmoid然后它实现了一个非线性空间。就像

11+e(wx+b)

“例如,如果我们有20 个输入和 4 个输出,而我没有真正的标签,它是否类似于回归?” --- 在这你只是删除反向传播的东西。线性、多项式等通常的回归算法所做的是它们只是预测函数,但从不学习像神经网络这样的东西,通过优化权重来学习正确的函数。如果您没有真实水平,则意味着您没有计算 [true-predicted] 之间的损失值,因此这将是一个简单的回归。

对于您的第一个问题,没有隐藏层的 NN 只是线性回归。当然有一个激活函数,但是你可以在你的目标集上使用那个激活函数的反函数,那么它基本上是一个线性回归。

您的陈述的第二部分令人困惑。你需要澄清你想用你的神经网络做什么。一些无监督网络包括玻尔兹曼机、自动编码器等,用于特征提取和降维。但是,我们不知道这是否是您想要的。


如果是强化学习,那就是强化学习。RL 既不受监督也不受监督。