似乎引入了“softmax”一词的论文是 John S. Bridle 的Training Stochastic Model Recognition Algorithms as Networks can Lead to Maximum Mutual Information Estimation of Parameters (1989, NIPS)。

附带说明一下，softmax 函数（带基$b = e^{-\beta}$)

$$\sigma (\mathbf {z} )_{i}={\frac {e^{-\beta z_{i}}}{\sum _{j=1}^{K}e^{-\beta z_{j}}}}{\text{ for }}i=1,\dotsc ,K {\text{ and }}\mathbf {z} =(z_{1},\dotsc ,z_{K})\in \mathbb {R} ^{K}$$

与玻尔兹曼（或吉布斯）分布非常相似

$$p_i=\frac{e^{- {\varepsilon}_i / k T}}{\sum_{j=1}^{M}{e^{- {\varepsilon}_j / k T}}}$$

它是由 Ludwig Boltzmann 在 1868 年提出的，所以 softmax 函数的思想和表述相当古老。