确保测量数据的有效性
确保测量数据的有效性
数字位数与数据修约规则
在表示被测量(y)测量结果时,一般包括两部分(即yXU??),即佳估计值(x)部分,测不准部分(U),前者又称为结果部分,后者又称为不确定度部分。这两部分的数据用多少位数字来表示。多于位数又如何修约,是一个非常重要的问题。测量数字的位数太多容易使人误解为测量准确度很高,太少则会损失原有的测量准确度。因此,掌握结果部分和不确定度部分的数字位数及其数据修约的规则,也是确保测量数据的有效性。
3.1仪器校验结果部分位数与数据修约
3.1.1有效数字、有效位数
(1) 在检测与试验中直接从测量仪器中读得的读数或自动采集的数字是有效数字,意思是这些读数或采集是能保证准确度的,是有意义的。这是从测量误差来理解的有效数字的含义。
(2) 从数字化整误差来理解有效数字含义,是将化整以后的数字称为有效数字。若某近似数字的误差绝对值不超过该数末位的半个单位值时,则从其个不是零的数字起至未一位的所有数字,都是有效数字。
例如,1/3的小数值为0.333?,若取0.33,则其末位的半个单位值为0.005;而误差的绝对值为 0.333—0.33=0.003,不超过0.0005。于是,0.33的有效数字为二位。
(3) 两个数相加或相减所得结果,小数点后有效数字位,与参与运算的各数中小数点后的有效位数少的一个相同。 例如1.5x108十1.21=1.5x108。
(4) 乘法和除法所得结果的有效数字的位数,与参与计算的数字中有效位数少的数字有效位数相同。例如,1.5m×2m=3m2。
(5) 乘方、开方运算所得结果的有效数字的位数与原数字的有效位数相同。例如, (16m)2=2.6m2,而不是2.56m2。
3.1.2 仪器维修数字修约规则
(1) 基本原则:"四舍六入,逢五为偶。
(2) 舍弃的数字段中,前位数字大于5,则保留的数字段末位进1。如2.14159,保留四位有效数字为2.142。
(3) 舍弃的数字段中,首位数字小于5,则保留的数字段末位不进1。如4.71729,保留四位有效数字为4.717。
(4) 舍弃的数字段中,首位数字等于5,且5右面的其它舍弃位不全为0,则保留的数字段末位进1。如4.266501,保留四位有效数字为4.267。
- 上一篇:正确操作使用和维护测量仪器
- 下一篇:计量数据集中采集和传输系统建设
博计计量 · 校准案例更多案例+
-
技新电子再次选择的计量公司
技新电子再次选择的计量公司,在选择与计量公司合作之前,我们认为我们的要求很高,没有想到计量公司的计量检测技术服务这么的好···
-
榕汽车配件指定的计量检测服务
榕汽车配件指定的计量检测服务,我司在与这么多仪器校准机构的合作过程中,计量公司还是值得信赖的,无论是客服的服务,还是计量···
博计计量 · 计量资讯更多资讯+
- 贵阳新天光电科技有限公司介绍06-24
- "测量过程控制"也称为"测量保证"06-30
- 风速计仪器保养在日常维护中需注意哪些···06-26
- 水泥负压筛析仪校验方法06-26
- 仪器工具的领用06-26
- 测量仪器检测数字兆欧表使用前要做好哪···06-25
- 计量器具的采购管理06-24
- 测量仪器校验应该如何避免出现有误差06-24
- 仪器校验服务和供应品的采购06-23
- CNAS仪器检测认证是什么06-23
- 揭阳计量校准实验室、防止调整时校准失···06-23
- 仪器校验示波器的分类标准和特征06-23
- 仪器维修盐雾试验箱使用过程中需要注意···06-22
- 判定测量过程和测量结果可信性06-22
- 仪器校准仪表行业存在的问题以及未来发···06-22
- 仪器校准中如何用光压法测量激光能量06-22
- 品质部负责计量器具的校验工作06-22
- 数字式频率计的基本原理06-22
- 第三方计量检测公司,关于计量校准结果···06-22
- 仪器计量声频信号发生器的检定方法06-22