对于小数据集,基本的神经网络架构是否更好?

人工智能 神经网络 人工智能设计 数据集 回归 建筑学
2021-10-22 13:13:22

我目前正在尝试用 52 个输入值预测 1 个输出值。问题是我只有大约 100 行可以使用的数据。

与使用具有更多神经元的多层架构相比,使用小型架构会获得更准确的结果吗?

现在,我使用 1 个隐藏层和 1 个神经元,因为我需要解决(在我看来)一个基本的回归问题。

2个回答

我不知道为给定任务找到最佳 NN 架构的直接方法,但据我所知,推荐的方法是设计一个可以过度拟合训练数据的网络,然后在上面应用正则化它。

这样,您几乎可以确定您没有因网络容量而欠拟合/表现不佳。

当然,过拟合更难!

我的意思是,实际上,必须对数据的生成模型有一些假设,无论是显式的还是隐式的。

我可能会先尝试 1-2 层网络(如果幸运的话,也许你的数据是线性可分的)。