Машинное представление цифровых результатов измерений

Представление цифрового результата измерений в дискретной машинной сетке любого цифрового элемента (контроллера и компьютера) цифровой измерительной системы возможно в одном из двух форматов:

• в формате числа с фиксированной запятой;
• в формате числа с плавающей запятой

де M=(0, a-1…a-m) – нормализованная мантисса (a-1≠0) в R-ичной системе счисления с m значащими цифрами, B=±br…b2, b1 – целочисленный порядок цисла (bi ≤ R-1)

Известные методы вычислительной техники позволяют достаточно просто обеспечить, в отличие от аналоговых технологий, любую требуемую точность представления и обработки цифровых результатов измерений определённой значности. Тем самым в цифровых измерительных системах гарантируется сохранение точности результатов измерений не только на выходе цифровых измерительных каналов, но и после различных промежуточных цифровых преобразований на выходе измерительных систем.