Определение погрешностей табличных величин

Если величина С, входящая в расчетную формулу, в данной работе не измеряется, а берется из справочной таблицы или из описания установки, в табл.1 заносится С_табл . В строку «среднее» заносится округленное значение табличной величины - С_ср.

Округление делается так, чтобы точность табличной величины практически не влияла на точность расчетной величины, т.е. относительная погрешность d_с должна быть значительно меньше относительных погрешностей измеряемых величин, входящих в расчетную формулу.

Погрешности неокругленных табличных величин обычно указываются в справочных таблицах или в описаниях установок.

В этом случае:

DС_ср = DС_табл , или DС_ср = d^.С_табл (14)

Если же погрешность не задана или она не верна из-за округления, абсолютную погрешность табличной величины принимают равную половине единицы последнего сохраняемого десятичного разряда, содержащего значащую цифру:

DС_ср = 10^r, (15)

где r – номер десятичного разряда, соответствующего последней значащей цифре в значении С_ср .

Значащими считаются все цифры от 1 до 9 и 0 в середине и в конце числа, обозначающий отсутствие единицы соответствующего разряда.

Нули в конце числа, заменяющие неизвестные или отброшенные при округлении цифры, а также нули в начале числа считаются незначащими.

Так как при записи числа с нулями в конце не ясно, сколько в нем значащих цифр, табличные значения физических величин принято записывать в нормальной форме, оставляя все значащие цифры (в том числе и нули) и заменяя незначащие нули в конце или начале числа соответствующей степенью десяти.

Примеры:

1. π_табл = 3,141593; π_ср = 3,14; Δπ_ср = 0,01/2 = 0,005.

2. g_табл = 9,80665 м/с² ; g_ср = 9,8 м/с²; Δg_ср = 0,05 м/с² .

3. ρ_табл = 7,80·10³ кг/м³ ; при двух значащих цифрах Δρ_ср = 0,05·10³ кг/м³.

Примечание:

В расчетных формулах результаты прямых измерений и табличные данные записываются только в системе СИ.