这是一个有趣的问题！令人惊讶的是，我从未阅读过关于这个特定问题的具体科学论文。在这里，您想学习一个将两个输入向量转换为标量的对称函数。在更一般的设置中，我们可以在文献中找到对置换不变函数的一些需求（参见Set Transformer和Aggregation Schemes for Graph Neural Network）。基本上，您有两种选择：

1. 正如您所指出的，您可以采用任何非对称函数，例如串联 + 前馈网络，并使用 (x,y) 和 (y,x) 对进行训练。但是，可能有更聪明的方法......
2. 设计一个排列不变的架构。在这里，您的机会是您只有 2 个嵌入和。可悲的是，你说他们的共同点产品不能被信任。然后，我可能会建议对您的嵌入应用一些线性/非线性变换，即定义一个可训练矩阵，并计算新空间和中的点积。通过使用示例对训练，您将找到嵌入的合适转换，使得点积$e_i$$e_j$$Q$$v_i = Qe_i$$v_j = Qe_j$$Q$$(e_i,e_j)$$v_i \cdot v_j$符合真实的相似性。您当然可以使用更复杂的变换（例如多个非线性变换）。关键是使用相同的参数来转换两个嵌入可以确保对称性。

加分点：我不确定你的问题，但我在（2）中的命题可能自然地涉及及物性和自反性。