天美乌鸦糖心mv

由于知乎不太支持markdown语法的数学公式,如果公式***,可以看最后我附的图片1. 信息熵（Entropy）概述信息熵（Entropy）是信息论中的核心概念，用来量化一个随机变量的不确定性或“惊讶”程度。

由信息论的奠基人香农（Claude Shannon）于1948年提出，信息熵是描述信息的不确定性的数学工具。

高熵表示系统不确定性高，即***发生的可能性分布较为均匀。

低熵表示系统不确定性低，即***的发生是高度可预测的。

1.1 信息熵的数学定…。