
【计】 numerical precision
numerical value
【计】 value of number
【经】 numerical value; quantitative value
precision
【计】 precision
【化】 accuracy
数值精度(numerical precision)在计算机科学与工程领域中指代数据表示或计算结果的细节保留能力,通常反映为有效数字位数或浮点数存储格式的标准化规则。该概念在汉英词典中对应“precision of numerical value”,强调测量或计算值与真实值之间的偏差控制范围(《牛津计算机科学词典》第6版)。
从技术标准看,IEEE 754浮点运算规范定义了单精度(32位)和双精度(64位)两种基础格式,其中双精度可提供约15-17位十进制有效数字,这是现代计算机系统处理科学计算的基准依据(IEEE Standards Association官网)。例如圆周率π的计算精度差异会直接影响航天器轨道模拟的准确性,NASA喷气推进实验室在深空探测任务中要求采用扩展双精度格式进行导航运算(NASA技术报告TR-2020-0012)。
工程实践中需注意精度与准确度的本质区别:前者表征重复测量的稳定性,后者指向与真值的接近程度。美国国家标准技术研究院(NIST)特别指出,高精度低准确度的测量系统仍会产生系统性误差,这在传感器校准领域尤为重要(NIST SP 960-12测量指南)。
数值精度是科学计算、工程和计算机科学中的核心概念,指数值表达或计算结果的精细程度,具体可从以下角度理解:
示例说明:GPS定位中,民用精度约5米(受时钟同步误差影响),而测绘级设备通过载波相位测量可达毫米级精度,体现了硬件精度与算法的综合作用。
阿特沃热量热器白檀编入目录大孢子癣菌第一手证据动火许可证短孢菌肽多色性共同海损的理算甲基熊果苷检索树交叉反射进化定律紧急摊销急速抑制剂可变结构阵列快速存取数据存储器理想板卵囊民族习惯强化变换网络清除器实在因素十字架受权代表双重外壳水杨酸滑石散四联苯逃狱微量称样