Правила округления и записи результатов измерений

Погрешность результата измерений позволяет определить те цифры результата, которые являются достоверными. Нецелесообразно удерживать в выражении для измеренного значения физической величины большое число цифр, так как цифры младших разрядов могут оказаться недостоверными.

Значащими цифрами числа считаются все цифры от первой слева, не равной нулю, до последней записанной справа цифры, при этом нули, записанные в виде множителя 10ⁿ, не учитываются. Поэтому записи 2,4 · 10³ В и 2400 В не являются тождественными. Первая запись означает, что верны цифры тысяч и сотен вольт и истинное значение может быть, например, 2,42 или 2,38 кВ. Запись 2400 В означает, что верны и единицы вольт, истинное значение может быть 2400,2 или 2390,8 В, но не 2420 или 2380 В.

Обратите внимание, что в обычной записи десятичной дроби нули справа являются значащими цифрами, а нули слева ими не являются!

При округлении числовых значений результатов и погрешностей измерений используют следующие правила.

1. В значении погрешности удерживается не более двух значащих цифр. Две цифры следует обязательно удерживать в том случае, когда цифра старшего разряда менее 3.

2. Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.

П р и м е р 1. Результат (235,732 ± 0,15) А округляется до (235,73 ± 0,15) А, но не до (235,7 ± 0,15) А.

При промежуточных вычислениях целесообразно, чтобы используемые числа содержали на одну значащую цифру больше, чем будет в окончательном результате. Это позволяет уменьшить погрешность от округления.

3. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.

П р и м е р 2. Результат (442,749 ± 0,4) мм округляется до (442,7 ± 0,4) мм.

4. Если первая из отбрасываемых цифр (слева направо) больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.

П р и м е р 3. Результат (37,248 ± 0,5) кг округляется до (37,2 ± 0,5) кг; (37,253 ± 0,5) км округляется до (37,3 ± 0,5) км.

5. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

П р и м е р 4. Поэтапное округление результата измерения (220,46 ± 4) В дает на первом этапе (220,5 ± 4) В и на втором (221 ± 4) В, в то время как правильный результат округления (220 ± 4) В.

При выполнении данных правил абсолютная погрешность округления не превышает половины единицы младшего разряда округленного числа.

П р и м е р 5. Абсолютная погрешность округления результата 220,46 В до трех значащих цифр (см. пример 4) не превышает D = 0,5 В. При этом относительная погрешность округления составит не более

d = × 100 = 100 = 0,23 %.

При определении результатов косвенных измерений могут использоваться физические константы или стандартные справочные данные о свойствах веществ и материалов. Такие числа, если погрешность их измерения (расчета) не указана, следует рассматривать как округленные, с погрешностью округления, не превышающей половины единицы младшего разряда числа.

П р и м е р 6. Значение ускорения свободного падения g = 9,81 м/с² имеет абсолютную погрешность округления не более D = 0,005 м/с² и относительную погрешность округления не более

d = 100 » 0,05 %.

П р и м е р 7. Число » 1,414 округлено с относительной погрешностью не более

d = 100 » 0,04 %.

Особенно внимательно нужно относиться к записи результата измерения без указания погрешности (что в общем случае крайне нежелательно). В этом случае в записываемом числе оставляются только те цифры, за достоверность которых можно ручаться, т.е. все значащие цифры записанного числа должны быть достоверными.

П р и м е р 8. В результате измерения напряжения получено значение 3720 В, при этом относительная погрешность измерения составляет 1 %. Требуется записать результат измерения без указания погрешности.

Р е ш е н и е.

Абсолютную погрешность измерения рассчитаем по формуле

D = = = 37 » 40 В.

Следовательно, две последние цифры результата измерения не являются достоверными.

О т в е т. Результат измерения следует записать (если погрешность не указывается) в виде 37 · 10² В или 3,7 · 10³ В, или 3,7 кВ.

Учебное издание

Прямые и косвенные
измерения

С о с т а в и т е л и:

Сафронова Клера Васильевна,

Сибринин Борис Петрович,

Баранов Виктор Алексеевич

Редактор В. В. Чувашова

Корректор Ж. А. Лубенцова

Компьютерная верстка Н. В. Ивановой

Подписано в печать 02.02.12.

Формат 60x841/16. Усл. печ. л. 3,02.

Тираж 100. Заказ № 12.

_______________________________________________________

Издательство ПГУ

440026, Пенза, Красная, 40.

Тел./факс: (8412) 56-47-33; e-mail: iic@pnzgu.ru

Не нашли, что искали? Воспользуйтесь поиском по сайту: