在描述高阶张量时,我觉得维度这个术语有一个重载,因为它可以用来描述张量的阶,但也可以用来描述......“阶”的维度?
假设一个描述了卷积层产生的三阶张量,并想参考它的宽度和高度。你说空间维度?你会写渠道维度吗?或者更确切地说是方向?说“空间秩序”感觉很奇怪。但是停留在维度上会使句子像“空间维度具有相同的维度”。(免责声明:显然,您可以通过重组来避免这里的问题,但每次都这样做并不是一个令人满意的解决方案。)。
在描述高阶张量时,我觉得维度这个术语有一个重载,因为它可以用来描述张量的阶,但也可以用来描述......“阶”的维度?
假设一个描述了卷积层产生的三阶张量,并想参考它的宽度和高度。你说空间维度?你会写渠道维度吗?或者更确切地说是方向?说“空间秩序”感觉很奇怪。但是停留在维度上会使句子像“空间维度具有相同的维度”。(免责声明:显然,您可以通过重组来避免这里的问题,但每次都这样做并不是一个令人满意的解决方案。)。
术语歧义
您是正确的,在帖子和软件库中的张量术语中存在类似重载的情况。当没有数学背景的人使用数学术语时,经常会出现令人困惑的术语。在阅读 NASA、Cambridge、MIT 或 Cal-tech 材料时,您很少会发现这种混淆。
张量、秩、维度和通道
张量是一组维度。分组通常表示描述系统的量之间的关系。张量的顺序(或等级)是分组中的维数。
当这种数学思想正式应用于电气工程、化学系统、生物系统或计算系统时,我们可以说张量是该系统的输入和输出的分组,抽象了它们之间的关系。张量的阶数(或秩)是进出系统的信号通道总数。排名只是输入的数量加上输出的数量。
当术语张量开始应用于将输入分组到一个张量中并将输出分组到另一个张量中时,最初的概念有点丢失了,与它们的关系没有任何联系,这在形式上是不正确的。这些只是数学中的向量,由计算机程序中的数组表示。
为机器学习准备的标记数据集是形式上的离散张量,但是它还没有应用数学模型。当人工网络中发生收敛时,训练的结果是一组参数,如果稍后将其应用于新输入,将根据网络及其训练参数预测输出。网络单元的配置已成为模型,训练后的网络已成为近似于训练数据所代表现象的张量表达式。
问题中的具体例子
三阶张量不能只有两个维度,宽度和高度。它必须具有三个维度,可能是宽度、高度和瞬时值。宽度和高度是自变量,瞬时值是因变量。所以我们有一个等级.
维度的含义没有明确和正式的定义,因此在学术教科书包含一致的定义之前停止使用它会很有用,但这不太可能发生。它可能会继续被非数学家随意使用。因此,说两个张量具有相同的维度仍然是模棱两可的。
域和范围
正确的术语是域和范围。这些术语分别明确地描述了关系的自变量和因变量的可变性。在描述水平位置、垂直位置和亮度之间的张量关系的样本数组的情况下,水平域对应于宽度,垂直域对应于高度。
因此,人们不会说“宽度和高度是空间维度”或“宽度和高度是通道维度”。
可以明确地说,“本文中的宽度是指最大水平像素位置减去其最小值加一”。不用说那么复杂但准确的东西,这将是一个明确的陈述。
网络中的第四个卷积层具有 1280、768 的域和 IEEE 32 位浮点数的范围。
它很容易理解并且足够接近技术上的正确性,不会导致受过数学训练的读者认为作者没有受过教育。
平等问题现在解决了。域的平等性可以明确无误地表述。听起来是否不寻常并不特别重要。
网络层二和三的水平域和垂直域相等,均为 [1280, 768]。
(经常看到 [1280, 768] 的原因是因为许多语言的编译器,从 FORTRAN 甚至更早开始,将其解释为二维数组的二维域。因此可以在软件人员中使用,尽管 [ 768, 1280] 更可能用于程序中,因为从左到右然后从上到下遍历是一种视频传统。)
张量项的滥用
说添加两个数组是在软件中操纵张量的一个例子是不正确的。张量比数组更抽象。如果要...
...然后一个人将执行张量数学。
有许多软件可以执行这种符号操作,但是在机器学习中将张量分配给输入样本并不是张量数学。不属于符号操作系统的张量对象类只是典型编程语言数组结构的抽象,在构造函数中参数化等级。这种微不足道的抽象远没有张量表达式的符号操作那么深。
根据定义,张量可以是任何顺序(如果顺序小于三,通常命名不同)。所以,我用来表示维度方面。
除非您有三个或四阶张量,每个方面都有非常特定的含义,否则用诸如特殊或时间之类的术语命名顺序将是有限的。