有没有论文中的算法完全基于训练模型的结果？让我解释。
假设您想提出一个对三个数字进行排序的算法 . 我可以生成几个训练数据点 带着他们的标签 . 这样，我可以生成大量数据点并训练模型以按顺序预测它们。
我的问题是，是否有任何论文能够将经过训练的模型转换回人类可以理解的算法（而不仅仅是参数的值？）。即使算法非常简单，我也会很感兴趣。
你能从训练有素的模型中学习算法吗？
数据挖掘
训练
机器学习模型
2021-10-02 03:50:28
3个回答
在这篇文章https://arxiv.org/abs/1711.09784中，作者将决策树拟合到神经网络，以了解神经网络的作用。是你要找的吗？
也许您的问题属于ML 模型的可解释性范围。这本身就是一个巨大的领域，我建议阅读“我为什么要相信你？”：解释任何分类器的预测。这里也有一个快速总结。
我没有听说过这样的事情。听起来你有一个模型，但它是一个黑匣子，你希望能够向一些观众解释它。如果是这种情况，我会：
尝试线性模型，如线性回归。这将为您提供一个可以实施的公式。
尝试使用“决策树”，它还会为您提供一组规则，还可以输出输入对模型的重要性。
保留你的黑盒模型，承认它是黑盒，但是使用像 PCA 这样的方法来证明不同变量（不是模型参数）对结果的重要性。
如果我正确理解你的问题
其它你可能感兴趣的问题