我引用了什么是双线性张量层（与标准线性神经网络层相比）的答案，或者我怎么能想象它？.

双线性函数是两个输入的函数 $x$ 和 $y$分别在每个输入中是线性的。向量上的简单双线性函数是点积或元素积。

让 $M$成为一个矩阵。功能$f(x,y)=x^TMy=\sum_iM_{ij}x_iy_j$ 是双线性的 $x$ 和 $y$. 事实上，两个向量上的任何标量双线性函数都采用这种形式。请注意，双线性函数是$x_iy_j$而线性函数如$g(x,y)=Ax+By$只能有$x_i$或者$y_i$. 对于神经网络，这意味着双线性函数允许输入之间更丰富的交互。

现在如果你想要一个输出向量的双线性函数怎么办？好吧，您只需定义一个矩阵$M_k$对于输出的每个坐标，您最终会得到一堆矩阵。那堆矩阵称为张量（准确地说是三模张量）。您可以将具有两个向量的双线性张量积想象为$x^⊤M_ky$在张量的每个“切片”上计算。

双线性模型由两个特征提取器组成，其输出在图像的每个位置使用外积相乘，并汇集以获得图像描述符。1

它的优点是它可以以平移不变的方式对成对的特征交互进行建模，这对于细粒度分类特别有用。它还允许仅使用图像标签进行端到端训练，并在细粒度分类上实现最先进的性能。