数据挖掘 - 张量积/乘法在 TensorFlow 中如何工作？ - 吾爱随笔录

张量积/乘法在 TensorFlow 中如何工作？

数据挖掘张量流线性代数

2021-09-21 04:17:19

在 Tensorflow 中，我看到了以下示例：

import tensorflow as tf 
import numpy as np 

mat_a = tf.constant(np.arange(1,13, dtype=np.int32), shape=[2,2,3])  
mat_b = tf.constant(np.arange(12,24, dtype=np.int32), shape=[2,3,2])  
mul_c = tf.matmul(mat_a, mat_b)

with tf.Session() as sess:  
   runop = sess.run(mul_c)  
   print(runop) 

[[[ 88  94]  
  [214 229]]  
 [[484 508]  
  [642 674]]]

张量乘法是如何工作的？

3个回答

您可能需要阅读文档。

output[..., i, j] = sum_k (a[..., i, k] * b[..., k, j]), for all indices i, j.

例如，在您的示例中

$~~88=1\times12+2\times14+3\times16,~~~94=1\times13+2\times15+3\times17$ $214=4\times12+5\times14+6\times16,~229=4\times13+5\times15+6\times17$

我给你举个小例子，如果你做下面的克罗内克产品

[\begin{matrix} 1 \\ 5 \\ 10 \end{matrix}] \otimes [\begin{matrix} 2 \\ 4 \end{matrix}] = [\begin{matrix} 1 [\begin{matrix} 2 \\ 4 \end{matrix}] \\ 5 [\begin{matrix} 2 \\ 4 \end{matrix}] \\ 10 [\begin{matrix} 2 \\ 4 \end{matrix}] \end{matrix}] = [\begin{matrix} 2 \\ 4 \\ 10 \\ 20 \\ 20 \\ 40 \end{matrix}]

$\begin{equation} \begin{bmatrix} \color{red}{1} \\ \color{green}{5} \\ \color{blue}{10} \end{bmatrix} \otimes \begin{bmatrix} 2 \\ 4 \end{bmatrix} = \begin{bmatrix} \color{red}{1} \begin{bmatrix} 2 \\ 4 \end{bmatrix} \\\\ \color{green}{5} \begin{bmatrix} 2 \\ 4 \end{bmatrix} \\\\ \color{blue}{10} \begin{bmatrix} 2 \\ 4 \end{bmatrix} \\ \end{bmatrix} = \begin{bmatrix} 2 \\ 4 \\ 10 \\ 20 \\ 20 \\ 40 \end{bmatrix} \end{equation}$ Kronecker 乘积也适用于矩阵。

张量乘法只是矩阵乘法的推广，它只是向量乘法的推广。

矩阵乘法定义为：

A_{i} \cdot B_{j} = C_{i, j}

$A_i \cdot B_j = C_{i, j}$

在哪里 $i$ 是个 $i^{th}$ 排， $j$ 是个 $j^{th}$ 列，和 $\cdot$ 是点积。因此它只是一系列的点产品。

然后可以看到这如何扩展到张量：

A_{i} \cdot B_{j} = C_{i, j}

$\mathbf{A}_{i} \cdot \mathbf{B}_{j} = \mathbf{C}_{i, j}$

在哪里 $i$ 是个 $i^{th}$ 张量的逐行矩阵，和 $j$ 是个 $j^{th}$ 张量的按列矩阵......因此只是一系列矩阵乘法 - 或一系列点积。

假设所有张量都是三阶的（可以用三个坐标来描述）：

A \otimes B = A_{i, j} \cdot B_{j, k} = C_{i, j, k}

$\mathbf{A} \otimes \mathbf{B} = \mathbf{A}_{i, j} \cdot \mathbf{B}_{j, k} = \mathbf{C}_{i, j, k}$

这意味着 $(i,j)^{th}$ 向量 $\mathbf{A}$ 倍 $(j, k)^{th}$ 向量 $\mathbf{B}$ .

其它你可能感兴趣的问题

上一篇Anconda R 版本 - 如何升级到 4.0 及更高版本下一篇keras 中 Stateful LSTM 的 Batch Size