Keras 中是否有“Attention Is All You Need”的实现？
数据挖掘
深度学习
nlp
喀拉斯
机器翻译
2021-10-03 20:35:48
3个回答
这是 PyPI 的一个实现。
2021 年任何人在谷歌上搜索的更新：Keras 已经实现了MultiHead attention layer。如果 key、query 和 value 相同，这就是 self-attention。
一个来自Kaggle的例子是可用的。