Предельное значение погрешности этого метода можно определить из соотношения

. (2.18)

Значение частотной погрешности можно уменьшить, если вводить поправку в измерение амплитуды сигнала по известной частотной характеристике осциллографа.

При калибровке электронного осциллографа с использованием стабилизированного по амплитуде напряжения в схему осциллографа вводится источник стабилизированного напряжения. При помощи делителя напряжения обеспечивается набор фиксированных значений калибровочного напряжения, которые и подаются на вход осциллографа при его калибровке. Если при этом регулятором усиления осциллографа добиться отклонения луча трубки на всю ее шкалу, то шкала трубки будет отградуирована в единицах напряжения. Цена деления шкалы будет зависеть от положения входного делителя У – канала осциллографа. Значение амплитуды измеряемого сигнала U_изм можно определить из соотношения

, (2.19)

где l – значение изображения амплитуды сигнала, мм

S_ном – номинальная чувствительность канала вертикального отклонения, мм/В.

Погрешность измерения амплитуды сигнала таким способом будет зависеть от погрешностей: напряжения источника калибровочного сигнала ∆_К, делителя ∆_ДК, делителя входного сигнала ∆_ДВ установки геометрических размеров изображения сигнала и калибровочного напряжения ∆l и частотной погрешности ∆f.

Предельное значение погрешности измерения в этом случае можно определить из соотношения

. (2.20)

Для увеличения точности измерения амплитуды входного сигнала в некоторых осциллографах имеется возможность измерения амплитуды компенсационным методом. В этом случае (например, в осциллографе С1-57) предусмотрена возможность смещения изображения сигнала на экране внешним или внутренним источником постоянного напряжения, значения которого определяются по внешнему вольтметру. При измерении амплитуды сигнала сначала совмещают с нулевой линией шкалы нижнюю точку изображения сигнала, а затем верхнюю. Амплитуда измеряемого сигнала в этом случае определится из соотношения

, (2.21)

где U₁, U₂, – показания вольтметра при первом и втором измерении;

К – показания делителя У-канала.