克劳修斯熵：
克劳修斯（T.Clausius）与 1854 年基于经典热力学提出了熵的概念，用于度量系统混乱程度，定义熵S的增量为物体吸收的热量Q除以物体当前的热力学温度T。
吉布斯熵用于描述系统在热力学平衡状态下的混乱程度或不确定性。如果体系有n个能级，占第i个能级的机率是pi，体系的吉布斯熵就是S = -kΣpᵢln(pᵢ)，其中pᵢ代表占据每个微观状态的概率，k是玻尔兹曼常数。这种形式上的表述也与信息学中的熵（如香农熵）有着密切的联系，它们都以对数形式来度量系统的不确定性。
冯诺依曼熵用于衡量量子系统在不同量子态的概率分布和信息存储方式的指标。它代表了系统的不确定性，是对随机变量不确定度的量化：（tr）是线性代数中的迹（如有深入需求，请阅读线性代数）
