我一直在研究机器学习和生物信息学，今天我与一位同事就数据挖掘的主要一般问题进行了交谈。
我的同事（他是机器学习专家）说，在他看来，机器学习最重要的实际方面是如何理解你是否收集了足够的数据来训练你的机器学习模型。
这句话让我很吃惊，因为我从来没有这么重视过这方面……
然后，我在 Internet 上查找了更多信息，我发现FastML.com上的这篇文章根据经验报告，您需要的数据实例数量大约是功能数量的 10 倍。
两个问题：
1 - 这个问题在机器学习中真的特别重要吗？
2 - 10 次规则有效吗？这个主题还有其他相关来源吗？
十次规则对我来说似乎是一条经验法则，但如果你没有提供足够的训练数据，你的机器学习算法的性能确实可能会下降。
确定是否有足够的训练数据的一种实用且数据驱动的方法是绘制学习曲线，如下例所示：
学习曲线表示随着您增加训练集大小的训练和测试错误的演变。
正如您在图的最右侧看到的那样，图中的两条线趋向于达到和渐近线。因此，您最终会达到一个点，即增加数据集的大小不会对您的训练模型产生影响。
测试误差和训练误差渐近线之间的距离表示模型的过度拟合。但更重要的是，这个情节表明你是否需要更多数据。基本上，如果您表示测试和训练错误是为了增加更大的训练数据子集，并且这些线似乎没有达到渐近线，那么您应该继续收集更多数据。