假设我有一个作为两栈 LSTM 的自动编码器，它接收以下序列$n$一定长度的特征$m$.

假设我的编码向量的维度是$k$，所以架构的形式是：$n \times m \to 1\times k \to n \times m$.

我正在研究如何在自动编码器的编码部分构建一些可解释性指标。更具体地说，我想知道哪些功能会影响每个$k$我拥有的编码条目。

天真地，可以一次改变一个特征，检查对编码的影响，看看它在哪里最大。这在计算上既昂贵又忽略了特征的组合。

您知道任何可以提供帮助的研究或方法吗？