在信息論中，Rényi熵是Hartley熵，Shannon熵，碰撞熵和最小熵的推廣。熵能量化了系統的多樣性，不確定性或隨機性。Rényi熵以AlfrédRényi命名。在分形維數估計的背景下，Rényi熵構成了廣義維數概念的基礎。

Rényi熵在生態學和統計學中是重要的多樣性指標。Rényi熵在量子信息中也很重要，它可以用來衡量糾纏。在Heisenberg XY自旋鏈模型中，作為α的函數的Rényi熵可以由於它是關於模數群的特定子群的自守函數而被明確地計算。在理論計算機科學中，最小熵用於隨機抽取器的情況下。

定義：

含參數α的瑞麗熵其中α≥0和α≠1，被定義為

這裏，X是一個具有可能結果的離散隨機變量1,2,3,…..,n和相應的概率

一般來說，對於所有的離散隨機變量X,是一個帶有α的非遞增函數。

經常可見瑞麗熵和概率向量的p-範數之間的關系：

在這裏，離散的概率分布P=(p1,……..,pn)被解釋為一個向量Rn，同時pi≥0和Σpi=1

瑞麗熵中α≥0

特例

哈特利或最大熵:

香農熵:

碰撞熵，有時被稱為“Rényi熵”，是指α = 2 的情況，

其中，X和Y ^是獨立同分布的。

最小熵:

在極限中 收斂到最小熵 ：

參考文獻：https://en.wikipedia.org/wiki/R%C3%A9nyi_entropy

瑞麗熵（renyi entropy）