MLOps 和终身学习将如何互补?

人工智能 深度学习 比较 增量学习 毛毛虫
2021-11-11 09:23:33

根据[1],在 MLOps 中,持续训练是

ML 系统独有的新属性,它与自动重新训练和服务模型有关。

而终身/增量学习主要研究如何增量学习而不是再培训。[2]

终身机器学习或终身学习 (LL) 是一种高级机器学习 (ML) 范式,它不断学习,积累过去所学的知识,并使用/适应它来帮助未来的学习和解决问题。

我可以看到两者之间存在一些联系或冲突,但无法明确解释,我在第二个链接中询问了一位作者,他说两者是互补的。我想知道这两个将如何互相帮助?或者这会杀死那个?

1个回答

终身学习和 MLOps 确实是互补的。

终身学习 (LL)可以定义为一组学习算法和模型,它们可以处理越来越多的数据和/或任务,而不会(完全)忘记前一个,并且(通常)不会使用您的所有数据完全重新训练模型现在有货。因此,在 LL 中,我们试图模仿人类一生中不断学习(不同任务)的方式,并将在一项任务中获得的知识/技能转移到其他任务(例如从步行任务到跑步任务)[1]

MLOps是 DevOps 在机器学习或数据科学环境中的应用。换句话说,它更像是一种软件工程实践,您可以在其中定义在部署软件之前和之后需要(半)自动完成的任务的管道(或序列)。所以,MLOps 只是 DevOps,但是,除了 DevOps 中的常见实践,如持续集成和持续部署,你还有处理软件的 ML 部分的方法,比如随着更多数据可用而自动重新训练,以及自动在测试数据集上评估(新)训练模型。

它们是互补的,因为 MLOps 关注数据科学过程的自动化(即数据的收集和清理、用新数据训练模型、评估、将新训练和评估的模型部署到生产服务器),而LL(仅/通常)关注能够应对新任务和数据(无需完全重新配置或重新训练)的学习算法和模型的开发,因此它与持续集成和持续部署无关或几乎没有关系。在 MLOps 中,鉴于您可以(自动)在更多数据可用时重新训练模型,您可能会认为这是一种终身学习的形式,但是您完全重新训练模型并且您可能无法应对不同的任务,但是您确实可以在 MLOps 中使用 LL 技术。