
【計】 numerical precision
numerical value
【計】 value of number
【經】 numerical value; quantitative value
precision
【計】 precision
【化】 accuracy
數值精度(numerical precision)在計算機科學與工程領域中指代數據表示或計算結果的細節保留能力,通常反映為有效數字位數或浮點數存儲格式的标準化規則。該概念在漢英詞典中對應“precision of numerical value”,強調測量或計算值與真實值之間的偏差控制範圍(《牛津計算機科學詞典》第6版)。
從技術标準看,IEEE 754浮點運算規範定義了單精度(32位)和雙精度(64位)兩種基礎格式,其中雙精度可提供約15-17位十進制有效數字,這是現代計算機系統處理科學計算的基準依據(IEEE Standards Association官網)。例如圓周率π的計算精度差異會直接影響航天器軌道模拟的準确性,NASA噴氣推進實驗室在深空探測任務中要求采用擴展雙精度格式進行導航運算(NASA技術報告TR-2020-0012)。
工程實踐中需注意精度與準确度的本質區别:前者表征重複測量的穩定性,後者指向與真值的接近程度。美國國家标準技術研究院(NIST)特别指出,高精度低準确度的測量系統仍會産生系統性誤差,這在傳感器校準領域尤為重要(NIST SP 960-12測量指南)。
數值精度是科學計算、工程和計算機科學中的核心概念,指數值表達或計算結果的精細程度,具體可從以下角度理解:
示例說明:GPS定位中,民用精度約5米(受時鐘同步誤差影響),而測繪級設備通過載波相位測量可達毫米級精度,體現了硬件精度與算法的綜合作用。
按位加闆式冷卻器不動點歸納法柴把船舶費用保險條款單式管集箱多道記錄厄倫巴黑氏杆菌幹燥高頻振蕩器管線内熱解氣相色譜法合成單甯喉頭炎假冒者救濟組織空間天線方向找尋器硫酸鈾酰美化尿甾二醇帕金反應皮疽放線菌頻譜輪廓描畫器輕收斂的熱峰食肉目十字準線光标他自己天地違反契約的訴訟