人工智能 - 我可以使用哪个神经网络来解决这个受约束的优化问题？ - 吾爱随笔录

我可以使用哪个神经网络来解决这个受约束的优化问题？

人工智能神经网络机器学习建筑学模型请求约束优化

2021-11-02 14:19:15

让 $\mathcal{S}$ 是训练数据集，其中每个输入 $u^i \in \mathcal{S}$ 拥有 $d$ 特征。

我想设计一个人工神经网络，使下面的成本函数最小化（模型输出之间成对差异的平方和）并且满足给定的约束，其中 $w$ 是 ANN 模型参数向量。

\begin{aligned} min_{w} & \sum_{{i, j} \in S} {(f (w, u^{i}) - f (w, u^{j}))}^{2} \\ f (w, u^{i}) \geq q_{min}, i \in S \end{aligned}

$\begin{align} \min _{w}& \sum_{\{i, j\} \in \mathcal{S}}\left(f\left(w, u^{i}\right)-f\left(w, u^{j}\right)\right)^{2} \\ &f\left(w, u^{i}\right) \geq q_{\min }, \quad i \in \mathcal{S} \end{align}$

什么样的ANN适合这个目的？

1个回答

如果我正确理解您的查询，您希望创建一个对相似对象进行分组的潜在空间。然后，您可能应该寻找连体网络。但是，您的损失函数将需要另一个术语来增加不同标签之间的差异。否则，正如 Mike NZ 所指出的，网络会崩溃（是的，有可能）。也许这会提供一些见解。

请注意，上述方法并非完全无监督。事实上，有一些主张通过聚类进行无监督分类，尽管您的目标函数看起来非常不同。您可以阅读本文（称为 SCAN）了解更多详细信息。

希望能帮助到你。

[编辑]

如果您想要对象本身的（低维）表示，浏览它可能会有所帮助。对于一个复杂的问题，像 PCA 这样的线性归约虽然很有帮助，但可能不是您想要的。在这里，您可以尝试训练自动编码器。损失函数以及一些正则化项将起作用。

其它你可能感兴趣的问题

上一篇为什么在 on-policy actor-critic 方法中没有将目标网络用于批评者？下一篇Marcus Hutter 和 Shane Legg 对智力的定义有多广泛接受？