如何对卷积神经网络 (cNN) 与多层感知器 (MLP) 进行公平比较?

人工智能 神经网络 卷积神经网络 比较
2021-10-22 01:59:42

我正在对一些 EEG 数据进行深度学习以进行分类,我想知道是否有任何系统/数学方法来定义网络的架构,以便公平地比较它们的性能。

比较应该在神经元级别(例如每层中的神经元数量),还是在权重级别(例如,在每种类型的网络中训练的参数数量),还是其他?

出现的一个想法是,根据池化层和 dropout 层之后的神经元数量,为每个相应的卷积层构建一个 MLP 层。

有任何想法吗?如果有任何关于这个问题的相关工作或论文,我将非常感激。

感谢您的时间

康斯坦丁诺斯

2个回答

康斯坦丁,我假设你指的是普通的 MLP 和 CNN,没有任何修改。

我相信您要问的是如何设置它们,以便进行最公平的比较。

我这样做的方式是使用他们的简单实现,但在每个超参数中都尽可能地调整两者都应该作为接受相同输入并给出相同输出的黑匣子。

这将使您深入了解两种算法的真实原始性能。

希望能帮助到你 :)

监控架构性能的最佳方法是比较资源利用率、模型准确性、价值损失和混淆矩阵。
例如,VGG16 比 inception V3 消耗更少的系统资源

一篇文章深入。