Правила округления и записи результатов наблюдений и измерений

9.5.1 Числовое значение результата наблюдения округляют в соответствии с числовым разрядом значащей цифры погрешности измерений. Лишние цифры в целых числах заменяются нулями, в десятичных дробях - отбрасываются. Если десятичная дробь оканчивается нулями, они отбрасываются только до того разряда, который соответствует разряду погрешности. Пример: результат 1,072000, погрешность + 0,0001. Результат округляют до 1,0720. Если первая (слева направо) из заменяемых нулями или отбрасываемых цифр меньше 5, остающиеся цифры не изменяются. Если первая из этих цифр равна 5, а за ней не следует никаких цифр, или идут нули, то, если последняя цифра в округляемом числе четная или нуль, она остается без изменения, если нечетная - увеличивается на единицу. Пример: 1234,50 округляют до 1234; 8765,50 - до 8766. Если первая из заменяемых нулями или отбрасываемых цифр больше 5 или равна 5, но за ней следует значащая цифра, то последняя остающаяся цифра увеличивается на единицу. Пример: 6783,6 округляют до 6784; 12,34501 до 12,35. В соответствии с правилом 1, добавляют один разряд справа, т.е. в первом примере результат 1,072000 нужно округлять не до 1,0720, а до 1,07200.

9.5.2 Если в процессе вычисления встречается операция деления, бессмысленно продолжать ее по правилам арифметики, после того, как получен результат, соответствующий правилу 1.

9.5.3 При определении предстоит произвести некоторые математические операции, то при округлении результатов числа знаков при вычислении погрешностей измерений следует учитывать, что погрешность определения значения погрешности достаточно велика, порядка 30 % при n = 10 и порядка 15 % при n = 20 - 25, поэтому, при n < 10 следует оставлять одну значащую цифру, если она больше 3-х и две, если первая из них меньше 4-х. Погрешность, возникающая в результате вычислений, не должна превышать 10 % суммарной погрешности измерений. Поэтому, если над результатами измерений (наблюдений). Пример, если при n = 10, s = 0,523 оставляемом значение s = 0,5; если при n = 10, s = 0,253 оставляем значение s = 0,25. При n > 10, достаточно надежно оставлять во всех случаях две значащие цифры. Значения Z (P, n) представлены в таблице 9.5.

Таблица 9.5 - Значения Z (P, n) при Р равной