我相信这种学习的术语是核心学习。一个建议是vowpal wabbit，它有一个方便的 R 库，以及许多其他语言的库。

我衷心赞同 Zach 的建议。vowpal wabbit 是一个很好的选择，你会对它的速度感到惊讶。根据 vowpal wabbit 的规范，200k x 10k 的数据集并不大。

vowpal_wabbit（可通过https://github.com/JohnLangford/vowpal_wabbit以源代码形式获得，旧版本可作为 Ubuntu 世界中的标准包获得）是一个快速的在线线性 + 双线性学习器，具有非常灵活的输入。您可以混合使用二进制和数值特征。无需对功能进行编号，因为变量名称将“按原样”工作。它有大量的选项、算法、归约、损失函数和总而言之的极大灵活性。您可以加入邮件列表（通过 github 找到）并提出任何问题。社区非常了解和支持。

我在这里回答了类似的问题。重点是大多数机器学习/数据挖掘算法都是批量学习器，它们将所有数据加载到内存中。因此，您需要不同的工具来处理非常大的数据集。另请参阅该问题的工具。

在线学习是一种减少算法内存占用的方法。