我正在对一些 EEG 数据进行深度学习以进行分类,我想知道是否有任何系统/数学方法来定义网络的架构,以便公平地比较它们的性能。
比较应该在神经元级别(例如每层中的神经元数量),还是在权重级别(例如,在每种类型的网络中训练的参数数量),还是其他?
出现的一个想法是,根据池化层和 dropout 层之后的神经元数量,为每个相应的卷积层构建一个 MLP 层。
有任何想法吗?如果有任何关于这个问题的相关工作或论文,我将非常感激。
感谢您的时间
康斯坦丁诺斯
我正在对一些 EEG 数据进行深度学习以进行分类,我想知道是否有任何系统/数学方法来定义网络的架构,以便公平地比较它们的性能。
比较应该在神经元级别(例如每层中的神经元数量),还是在权重级别(例如,在每种类型的网络中训练的参数数量),还是其他?
出现的一个想法是,根据池化层和 dropout 层之后的神经元数量,为每个相应的卷积层构建一个 MLP 层。
有任何想法吗?如果有任何关于这个问题的相关工作或论文,我将非常感激。
感谢您的时间
康斯坦丁诺斯
康斯坦丁,我假设你指的是普通的 MLP 和 CNN,没有任何修改。
我相信您要问的是如何设置它们,以便进行最公平的比较。
我这样做的方式是使用他们的简单实现,但在每个超参数中都尽可能地调整。两者都应该作为接受相同输入并给出相同输出的黑匣子。
这将使您深入了解两种算法的真实原始性能。
希望能帮助到你 :)
监控架构性能的最佳方法是比较资源利用率、模型准确性、价值损失和混淆矩阵。
例如,VGG16 比 inception V3 消耗更少的系统资源
有一篇文章深入。