心理状态是一个系数向量

📌 One-Sentence Summary

本文探讨了汉明对逻辑新颖性新颖性的区分，利用压缩和稀疏编码的框架解释了系统如何通过扩展其“基”来实现增长。

📝 Summary

作者认为，心理新颖性仅仅是现有框架内的新组合，而真正的逻辑新颖性需要发现新的基本身。通过字典（作品）和系数（权重）的类比，文本阐述了人类、机器和算法何时决定挤压现有结构的成本超过了添加新结构的成本。

💡 Main Points

逻辑新颖性与心理新颖性

心理新颖性是已知元素（系数向量）的新组合，而逻辑新颖性是获取一种新的基础方向（基向量），使得以前无法到达的状态变得可达。

系统可以被视为字典（基）和权重（系数）。当一个反复出现的模式使用现有原子进行描述的成本高于向字典中添加新原子的成本时，增长就发生了。

增长的成本

真正的增长并非由戏剧性冲突或突发冲击驱动，而是由频率驱动；一个出现频率足够高的模式使得添加新结构元素的复杂性变得合理。

人类与机器的非对称性

机器在训练期间定义的固定架构或冻结基内运行，而人类能够通过学习、论证和拒绝限制来扩展其概念基。

💬 Key Quotes

大语言模型从未见过字母。它看到的是整数。

心理新新颖性仅仅是现有框架内的新组合，而真正的逻辑新颖性需要发现新的基本身。

频率，而非戏剧性。

决定并不取决于纹理有多奇异，而取决于它出现的频率有多高。

📊 Article Meta

AI Screening： 88

Source： DEV Community: machinelearning

Author： Richard Emate

Category： 人工智能

Language： 英文

Read Time： 14 min

Word Count： 3434

Tags：

AI 与智能应用 , 机器学习 , 认知科学 , 哲学与思想 , 信息论