我CNN的训练是使用狗的特写图像。为了进行测试，我们输入了一张狗在主人旁边的图像，它被归类为狗。这怎么可能？这张图片不是不同的矢量吗？
如何调查在 CNN 中学到了什么？
数据挖掘
机器学习
神经网络
深度学习
美国有线电视新闻网
图像分类
2022-02-22 11:53:13
2个回答
有一篇关于跟踪 CNN 网络所学内容的著名论文。您可以使用DeConvNet可视化查看哪些部分更参与分类。在这篇论文中，官方观察到，第一层试图找到简单的线条和边缘，而更深的层试图将前面的东西放在一起，形成抽象的概念，比如嘴巴、眼睛等有意义的东西。作为示例，请看下图：
我想这篇论文有一些实现，你可以用已经存在的模型替换你的预训练模型，看看你的网络到底学到了什么。
这张图片不是不同的矢量吗？
它们是不同的向量。ML 和 DL 模型用于泛化，这意味着它们应该擅长测试。
您可以使用调查工具包对与决策相关的输入像素进行热图。
关于您的问题：CNN 被训练为平移和缩放不变，因此它会触发包含狗的图像也就不足为奇了。