# Entropy 还是 Ignorance? 这是一个有趣的概念辨析问题。这两个词在信息论和统计物理中常被混用,但侧重点不同: ## 核心区别 **Entropy(熵)** - 是一个**客观的数学量**,有明确定义(如 Shannon 熵 $H = -\sum p_i \log p_i$) - 描述系统状态的不确定性或信息量 - 在热力学中是状态函数,与微观状态数相关($S = k_B