Экономьте время на разработке,
используя свободные формы от LINCO
Открытая разработка документов | LINCO Open Source
Правила округления. Обработка и представление результатов измерений. Процедура
Версия от 09.10.20
|
ВЕРНУТЬСЯ К ПЕРЕЧНЮ ДОКУМЕНТОВ ❯
ПЕРЕЙТИ К ТРЕБОВАНИЯМ ГОСТ 17025 ❯
Число значащих цифр в промежуточных вычислениях при обработке результатов измерений должно быть больше, чем в окончательном результате.
Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим две значащие цифры, то для промежуточных результатов расчета сохраняем не менее трех значащих цифр.
Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим одну значащую цифру, то для промежуточных результатов расчета сохраняем не менее двух значащих цифр.
При проведении промежуточных расчетов в рукописных лабораторных журналах в числовых значениях измеряемой величины и погрешности следует оставлять столько значащих цифр, чтобы в окончательном результате не появлялась ошибка, связанная с поэтапным округлением.
ПримерыПромежуточные результаты | Окончательные результаты |
0,178 ± 0,053 | 0,18 ± 0,05 |
0,1784 ± 0,0533 | 0,178 ± 0,053 |
1,22 ± 0,18 | 1,2 ± 0,2 |
1,224 ± 0,183 | 1,22 ± 0,18 |
3,74 ± 0,748 | 3,7 ± 0,7 |
3,742 ± 0,748 | 3,74 ± 0,75 |
12,83 ± 1,28 | 12,8 ± 1,3 |
54,2 ± 5,4 | 54 ± 5 |
54,23 ± 5,42 | 54,2 ± 5,4 |
177,6 ± 33,7 | 178 ± 34 |
2357,4 ± 212,2 | 2357 ± 212 |
11624,8 ± 5812,4 | 11624 ± 5812 |
Числовые значения результата измерений и его погрешности (неопределенности) записываются с указанием одной и той же единицы измерения.
Примеры
(5,4 ± 0,5) мг/дм³;
(6,1 ± 0,7) ммоль/ дм³.
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение его погрешности (неопределенности).
ПримерыПравильно | Неправильно |
0,043 ± 0,004 | 0,043 ± 0,0043 |
0,0428 ± 0,0043 | 0,0428 ± 0,004 |
17,0 ± 0,2 | 17,00 ± 0,2 или 17 ± 0,2 |
12,13 ± 0,17 или 12,1 ± 0,2 | 12,1 ± 0,17 или 12,13 ± 0,2 |
46,40 ± 4,64 или 46,4 ± 4,6 | 46,402 ± 4,64 или 46,4 ± 4,64 |
Значение погрешности (неопределенности) результата измерений представляют числом, содержащим одну или две значащих цифры.
ПримерыРезультаты измерения |
0,14 ± 0,05 |
0,164 ± 0,051 |
1,1 ± 0,1 |
1,18 ± 0,11 |
3,6 ± 0,6 |
3,28 ± 0,54 |
12,4 ± 1,2 |
44 ± 4 |
44,2 ± 4,4 |
168 ± 34 |
Если заказчик требует другие формы представления результатов измерений, лаборатория оставляет за собой право учитывать эти требования.
Документ создается сообществом лабораторий и открыт для дополнения и редактирования.
Вы можете участвовать в корректировке и дополнении, а также направить нам свою версию документа для включения её в состав данного материала. Для этой цели используйте форму загрузки внизу страницы.
Данный материал будет полезен для разработки документнов системы менеджмента своей лаборатории.
ВЕРНУТЬСЯ К ПЕРЕЧНЮ ДОКУМЕНТОВ ❯
ПЕРЕЙТИ К ТРЕБОВАНИЯМ ГОСТ 17025 ❯