
熵(Entropy)是一個跨學科的核心概念,在熱力學、信息論和統計力學中具有不同但相關的定義。以下是基于漢英詞典視角的詳細解釋:
熵最初由克勞修斯(Rudolf Clausius)在1865年提出,用于描述熱力學系統的無序程度。其定義為:
熵變(ΔS)等于系統吸收的熱量(Q)與絕對溫度(T)的商,即:
$$ Delta S = frac{Q{text{rev}}}{T} $$
其中 ( Q{text{rev}} ) 表示可逆過程的熱量交換。熵增原理(熱力學第二定律)指出:孤立系統的熵永不減少,即系統自發趨向無序狀态。
來源:Clausius, R. (1865). The Mechanical Theory of Heat.
玻爾茲曼(Ludwig Boltzmann)從微觀角度定義熵,揭示其統計本質:
熵是系統微觀狀态數(Ω)的對數函數:
$$ S = k_B ln Omega $$
式中 ( k_B ) 為玻爾茲曼常數。該公式表明:熵衡量分子運動的混亂度,狀态數越多,熵值越高。
來源:Boltzmann, L. (1877). On the Relationship between the Second Law of Thermodynamics and Probability Theory.
香農(Claude Shannon)在1948年将熵引入信息論,定義為:
信息的不确定性或隨機性的度量:
$$ H(X) = -sum_{i} p_i log_2 p_i $$
其中 ( p_i ) 為事件發生的概率。熵值越高,信息的不确定性越大(如抛硬币的熵高于擲骰子)。
來源:Shannon, C. E. (1948). A Mathematical Theory of Communication. Bell System Technical Journal.
來源:王竹溪《熱力學》(高等教育出版社,1955年)。
熵(Entropy)是一個跨學科的重要概念,主要應用于物理學和信息論,其核心含義是描述系統的無序程度或不确定性。以下是詳細解釋:
由德國物理學家克勞修斯提出,是熱力學第二定律的核心概念:
由香農(Claude Shannon)在1948年提出,用于量化信息的不确定性:
場景 | 低熵狀态 | 高熵狀态 |
---|---|---|
冰塊融化 | 有序晶體結構 | 無序液态水分子 |
數據壓縮 | 重複規律性高(易壓縮) | 隨機性強(難壓縮) |
熵的本質是描述系統從“特殊”到“一般”的演化傾向,既是物理規律的體現,也是信息科學的基石。
安全保障條款阿魏乳巴爾通氏手術變種不等式運算符部分缺失不負被捕扣被劫責任電力控制二裂萬靈木分段線性機輻射韌帶共享主存儲器估定損失後備能力緩沖電容器空間方位信息離散形狀羅西氏先天翼突關節肌發育不良前庭視反射輕蘇打三磷酸吡啶核苷酸上下文有關文法産生式聲門下口食道試钴鐵靈數位資料送呈日期銅絲網退後未分配間接費用