資訊源輸出之每個符號的平均資訊量。設各符號的機率為pᵢ，以 H = −Σ pᵢ log₂ pᵢ（位元）表示，代表下一個會出現什麼的難以預測程度。n種符號全部以相同機率出現時達到最大值 log₂ n，某1個符號必定出現時為0。它給出以無失真編碼表示1個符號所需之平均位元數的下限。由夏農於1948年提出，因與熱力學的熵在式子形式上相似而得名。也稱為熵、夏農熵、平均資訊量。
日文名稱: 情報エントロピー
「資訊熵」出現在1領域的3道練習題中（資訊理論與編碼基礎等）。
這個名詞所屬的領域: 資訊理論與編碼基礎
正反面各1/2的硬幣為1位元，1～6點出現機率相等的骰子為 log₂ 6 ≈ 2.58 位元。正面0.9、反面0.1的偏差硬幣約為0.47位元，因為結果幾乎可以預測，所以比較小。機率為0的符號以 0 × log₂ 0 = 0 處理。
對彼此獨立輸出符號的資訊源，任何無失真碼都無法使每個符號的平均碼長小於熵（資訊源編碼定理）。霍夫曼編碼的平均碼長在熵以上、未滿熵 + 1 位元；把符號合併編碼時，每個符號的平均碼長可以任意接近熵。
對兩個隨機變數，會考慮聯合熵 H(X, Y)、表示得知Y後仍殘留之X不確定性的條件熵 H(X|Y)，以及兩者之差的互資訊 I(X;Y) = H(X) − H(X|Y)。機器學習中使用的交叉熵，是衡量真實分布與預測分布之差異的量，預測越準確就越小。
正確答案：A. 1.75位元
熵是把各符號的資訊量 −log₂ p 以機率加權後的平均，即 H = Σ(−p log₂ p)。各符號的資訊量為1、2、3、3位元，因此 H = 1/2 × 1 + 1/4 × 2 + 1/8 × 3 + 1/8 × 3 = 0.5 + 0.5 + 0.375 + 0.375 = 1.75 位元。若4個符號的機率相等則為2位元，但機率有偏差時，熵就會相應變小。
這不是好壞，而是難以預測的程度。熵大的資料不易壓縮；對加密金鑰或亂數這類不能被預測的東西，則要求熵要大。反之，像文章這樣冗餘度大的資料，壓縮後能縮小很多。
式子的形式非常相似，與統計力學的熵也有密切關係，但物理的熵是與熱和溫度相連結的量，單位也不同。資訊理論把它當作只由機率分布決定的量。
最難預測會出現哪個符號時，每個符號的平均資訊量最大。
輸出8種符號之資訊源的熵的最大值，與達到最大值的條件，下列組合何者正確？若0與1的機率相等則為1位元，但此處幾乎可以預測會出現0，因此每個符號的平均資訊量不到一半。
某二元資訊源以機率0.9輸出0、以機率0.1輸出1，且彼此獨立。設 log₂ 0.9 ≈ −0.152、log₂ 0.…資訊量 二元對稱通道 互資訊 平均碼長 同位位元 有失真壓縮 行程長度編碼（RLE） 克拉夫特不等式 前向錯誤更正（FEC） 前綴碼