数值修约规则与极限数值的表示和判定讲义.doc

数值修约规则与极限数值的表示和判定讲义 主讲人：刘世华 术语和定义 1、数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。经数值修约后的数值称为原数值的修约值。 2、有效数字: 若测量结果经修约后的数值，其修约误差绝对值≤0.5（末位），则该数值称为有效数字，即从左起第一个非零的数字到最末一位数字止的所有数字都是有效数字。(有效数字中只应保留一位欠准数字，因此在记录测量数据时，只有最后一位有效数字是欠准数字。 3、有效位数: 对没有小数位且以若干个0结尾的数值，从非0数字最左一位向右数得到的位数减去无效0（即仅为定位用的0）； 对其他十进位数，从非0数字最左一位向右数而得到的位数，就是有效位数。 例1：35000，若有两个无效0，则为三位有效位数，应写为350×102；若有三个无效0，则为二位有效位数，应写为35×103。 例2： 0.0025---2位有效位数； 1.001000---7位有效位数； 2.8×107---2位有效位数； （对于a×10n表示的数值，其有效数字的位数由a中的有效位数决定） 4、修约间隔：修约值的最小数值单位。 注：修约间隔的数值一经确定，修约值即为该数值的整数倍。 例1、如指定修约间隔为0.1，修约值应在0.1的整数倍中选取，相当于将数值修约到1位小数。 例2、如指定修约间隔为100，修约值应在100的整数倍中选取，相当于将数值修约到“百”数位。 极限数值：标准（或技术规范）中规定考核的以数量形式给出且符合该标准（或技术规范）要求的指标数值范围的界限值。 数值修约规则 1、确定修约间隔 指定将数值修约成n位有数位数。 指定修约间隔为10-n(n为正整数)，或指明将数值修约到n位小数。 指定修约间隔为1，或指明将数值修约到“个”数位。 指定修约间隔为10n(n为正整数)，或指明将数值修约到10n数位，或指明将数值修约到“十”、 “百”、 “千” …..数位。 “1”间隔修约 “0.5”单位修约 指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位。 “0.2”单位修约 指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。 2、进舍规则 2.1拟舍去的最左一位数字小于5时，则舍去，保留的各位数字不变； 例1：将12.1498修约成2位有效位数，得12； 将2：将12.1498修约到小数点后一位，得12.1； 2.2.拟舍去数字的最左一位数字大于5时，或是5，而其后跟有并非全部为0的数字时，则进1，即保留的末位数字加1； 例1：将1268修约到“百”位数，得13×102（特定时可写成1300）； 特定时—指修约间隔或有数位数明确时 例2：将1268修约成3位有效位数，得127×10 ； 例3：将10.502修约到个位数，得11。 2.3.拟舍去数字的最左一位数字为5，而右面无数字或均为0时，若所保留的末位数字为奇数（1，3，5，7，9）则进一，为偶数（2，4，6，8，0）则舍去。 例1：修约间隔为0.1（或10-1）时 拟修约值 修约值 1.050 1.0 1.350 1.4 例2：修约间隔为1000（或103） 拟修约值 修约值 2500 2× 103（特定时可写为2000） 3500 4× 103（特定时可 写为4000） 例3:将下列数字修约成两位有效位数 拟修约值 修约值 0.0325 0.032 32500 32×103 （特定时可写为32000） 2.4.负数修约时,先将它的绝对值按前述的规定进行修约,然后在所得值前面加上负号. 例3:将下列数字修约到十数位 拟修约值 修约值 -355 -36 ×10（特定时可写为-360） 3.不得连续修约：拟修约的数字在确定修约位数后一次修约获得结果，不得多次连续修约。 例1: 修约15.4546，修约间隔1，结果为15。 错误：15.4546 → 15.455 15.46 → 15.5 → 16 例2: 将213.499修约成3位有效数时，结果应为213。 错误：213.499 → 213.50 → 214 4.1、“0.2”单位修约规则 “0.2” 单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。 修约方法：将拟修约数值X乘以5，按修约间隔“1”对5X依规定修约，所得数值再除以5。 例：将下列数字修约到个数位的0.2单位（或修约