联想记忆:将 Hopfield 与注意力机制联系起来的 2020 年研究

AI小蝌蚪AI 前沿📡 BestBlogs·AI高分精选⭐ 882026-10-17705 阅读💛 24 收藏
联想记忆:将 Hopfield 与注意力机制联系起来的 2020 年研究

📌 One-Sentence Summary

文章解释了 Hopfield 网络如何实现联想记忆,以及 2020 年论文「Hopfield Networks is All You Need」如何从数学上将其连续版本与 Transformer 注意力机制等同起来,并附有可运行的 Python 示例。

📝 Summary

文章梳理了从 John Hopfield 1982 年的联想记忆网络到现代 Transformer 中注意力机制的概念脉络。它解释了 Hopfield 网络如何通过 Hebbian 规则将模式存储在权重矩阵中,并通过迭代更新神经元以最小化能量函数来检索模式,从而保证收敛到最接近的已存储模式。随后文章展示了 2020 年论文「Hopfield Networks is All You Need」如何用连续向量替代二值神经元、用单步 softmax 替代迭代更新,得出一个在数学上等价于 Transformer 注意力的公式。文章包含两个简短的 Python 示例来演示模式恢复,讨论了容量限制(经典网络约为神经元的 14%)、过载和破坏权重对称性等常见陷阱,以及对理解模型行为的实际意义,例如为什么重复出现的上下文 token 会被更强地检索。

💡 Main Points

Hopfield 网络将模式存储在权重矩阵中,并通过能量最小化而非地址来检索它们。

该网络使用 Hebbian 规则编码模式,对称权重下的异步更新保证能量永不增加,因此系统会收敛到最接近受损输入的已存储模式。

2020 年的连续 Hopfield 网络在数学上等价于 Transformer 注意力层。

用连续向量替代二值神经元、用基于相似度的 softmax 替代迭代更新,恰好得出注意力公式:softmax(QKᵀ/√d)·V,其中 Query 是部分线索,Keys 是已存储的模式,Values 是被检索的内容。

经典 Hopfield 网络的容量限制约为神经元的 14%,而现代连续版本的容量呈指数级扩展。

1985 年 Amit-Gutfreund-Sompolinsky 理论表明,当模式数量超过约 0.14N 时,串扰会导致虚假检索。连续版本的指数级容量解释了为什么扩展上下文长度并不会线性增加模型的有效记忆。

将注意力理解为联想记忆,为模型行为和失败提供了物理直觉。

上下文中重复出现的 token 会形成更深的能量井,使其更容易被检索。错误的 token 预测可以被视为收敛到了错误的能量极小值,而非无法解释的黑箱之谜。

实际陷阱包括超出容量、破坏权重对称性,以及混淆经典与现代 Hopfield 网络。

过载会导致混合检索;非对称权重会失去收敛保证;将二值迭代网络与连续 softmax 版本视为可互换,会导致关于容量和收敛性的错误结论。

💬 Key Quotes

联想记忆是一种存储模型,其中完整模式可以从自身的一部分或带噪声的版本中恢复,而不像传统计算机内存那样使用精确地址

网络不寻找地址:它落入一个与原始模式吻合的能量井中。

注意力公式,即查询与键之间相似度的 softmax 乘以值,在数学上等价于连续 Hopfield 网络的一步更新。

现代 Hopfield 的指数级容量是扩大语言模型上下文不会线性倍增其「记忆」能力的数学原因

📊 Article Meta

AI Screening: 88

Source: DEV Community: machinelearning

Author: lu1tr0n

Category: 人工智能

Language: 英文

Read Time: 11 min

Word Count: 2704

Tags:

AI 与智能应用 , 注意力机制 , 机器学习 , 模型训练与推理 , 大语言模型

#AI 与智能应用# 注意力机制# 机器学习# 模型训练与推理# 大语言模型

文章评论(12)

墨沐雨29 天前

楼主辛苦了,内容很有参考价值。

回复
星寻梦29 天前

很有价值的分享,感谢整理。

回复
一个橘子29 天前

思路清晰,干货满满。

回复
邱文博29 天前

不错不错,已加入书签。

回复
陈皮话梅糖29 天前

这个比较实用,已转发给同事。

回复
林拾贝29 天前

这个观点很中肯,深有同感。

回复
蓝归舟29 天前

有没有更详细的教程,期待后续。

回复
山问津29 天前

写得挺用心的,支持一下。

回复
空向阳29 天前

看完了,收获满满,期待更多更新。

回复
陈皮话梅糖29 天前

内容翔实,正好需要,先收藏再看。

回复
墨沐雨29 天前

内容翔实,正好需要,先收藏再看。

回复
星知秋29 天前

这个观点很中肯,深有同感。

回复