神经网络可以具有可变深度吗?

数据挖掘 神经网络 理论
2022-03-05 09:01:58

神经网络关于 x 轴不对称是很常见的,也就是说,前几层的神经元比后几层的多得多。常见示例

在此处输入图像描述

但是,神经网络能否以它们关于y 轴不对称的方式构造,也就是说,使得网络的某些部分比其他部分“更深”?

这可能有用的一个例子是问题涉及一些简单的特征(只需要少量的层)和一些更复杂的特征(这可能会从更多的层中受益 - 即更大的“深度”)。

1个回答

2016 年的一篇论文中使用了“Wide and Deep network”。



在此处输入图像描述
推荐系统的广泛和深度学习


您可以使用 keras Concatenate 层创建

concat = keras.layers.Concatenate()([input, hidden2])

参考阅读 -
论文
Google 博客
另一篇论文