为什么我们需要 10 位来表示 AlexNet 中的 1000 个类?

人工智能 机器学习 深度学习 文件 亚历克斯网
2021-11-08 17:08:38

我正在阅读AlexNet 论文在第 4 节中,作者解释了他们如何防止过拟合,他们提到

虽然 ILSVRC 的 1000 类使得每个训练样例对从图像到标签的映射施加了 10 位的约束”。

这是什么意思?

2个回答

您需要 10 位 (210=1024) 来表示 1000 个类。

至少需要 10 位来表示之间的任何数字11000因为210=1024. 这意味着,如果试图表示 1000 个类中的 1 个,则至少需要 10 位。但是,为每个输入正确设置这 10 位确实很难,并且需要过度拟合才能确保这一点。