
【計】 average information content; mean information content
在漢英詞典框架下,"平均信息量"對應英文術語為"average information content"或"entropy",是信息論中量化隨機事件不确定性的核心參數。根據中國科技術語審定委員會的定義,該概念由香農于1948年提出,其數學表達式為: $$ H(X) = -sum_{i=1}^n p(x_i) log_2 p(x_i) $$ 其中$p(x_i)$代表事件$x_i$發生的概率。
英國國家物理實驗室的解讀指出,當所有事件等概率發生時,熵值達到最大,此時系統處于完全無序狀态。這種特性使其在密碼學領域被用于評估加密強度,例如RSA算法中的密鑰隨機性檢測。
美國電氣電子工程師協會(IEEE)文獻顯示,該指标在通信工程中有兩大核心應用:(1) 信道容量計算中确定最大傳輸效率阈值;(2) 數據壓縮算法開發時建立理論壓縮極限。值得注意的是,與熱力學熵的宏觀特性不同,信息熵着重描述微觀層面的不确定性度量,這一區别在《物理評論》期刊的多篇論文中均有詳細闡述。
平均信息量是信息論中的核心概念,主要用于衡量信息源的整體不确定性或隨機性。以下是綜合多個來源的詳細解釋:
平均信息量(又稱信息熵)指所有可能事件的信息量按其發生概率的加權平均值。它反映了信息源的整體不确定性程度,熵值越高,不确定性越大。
由香農(C.E. Shannon)在1948年提出,奠定了信息論的基礎。其核心思想是:概率越低的事件,發生時提供的信息量越大。
平均信息量通過量化不确定性,為通信、數據科學等領域提供了理論基礎。需注意其與互信息量(見)的區别,後者描述兩個變量間的關聯性。
差别恥骨結節船長的詳細海事報告唇縫術腓紅色分布式調試分子配分函數蓋髓劑高腳櫥高級系統設計師告訴人拱抱關鍵事實管塞孤主護胸甲基底關節反射絕氧生活桔青黴抗凝膠收縮潤滑油塊載入邏輯相連的地址空間婆普-斯二氏法橋體清洗室氫氧化正錳醛氧化酶突出自己