这等效于将其视为学习两个输入的函数，即 （即）。任何用于学习功能的机器学习方法都可以用于此；您只需将特征向量（输入）视为向量和向量的串联，然后在结果实例上使用标准 ML 技术。因此，您不需要任何特殊或花哨的东西来处理这个问题——您可以使用任何您熟悉的现有机器学习方法。$g : (X,Z) \mapsto Y$$g(X,Z)=Y$$X$$Z$

如果表示一组属性，使得对于任何，定义了一系列函数，那么您基本上已经偶然发现了超参数搜索。例如，考虑一个带有参数的神经网络。我们可以将您的映射重新表述为试图学习函数。但是我们有很多结构性的决定要在这里做出。我们的成本函数是什么？几层？什么维度？什么类型的层和激活？我们想要复发或抽搐吗？辍学？正常化？正则化？什么学习率？我们应该使用动量吗？退火时间表？多少个纪元？在开始编码之前我应该​​喝多少咖啡？$Z$$Z$$f(Z)$$\theta$$f: X \mapsto Y$$f(X;\theta) = Y$

如果我们将所有这些结构决策包装到中，那么的一系列函数的规范，以最小化误差。$Z$$f(Z)$$\theta$

超参数搜索是一个大问题，并且对该主题有很多有趣的研究。我认为当前的 SOTA 是使用老虎机算法的贝叶斯优化，尽管网格搜索、随机搜索甚至猜测检查等简单方法可能是最常见的。