Правила округления. Обработка и представление результатов измерений. Процедура - LINCO

Материалы

Экономьте время на разработке,
используя свободные формы от LINCO

Разделы

Скачать формы
Пройдите простую регистрацию

Правила округления. Обработка и представление результатов измерений. Процедура

Открытая разработка документов | LINCO Open Source
Правила округления. Обработка и представление результатов измерений. Процедура
Версия от 09.10.20

ВЕРНУТЬСЯ К ПЕРЕЧНЮ ДОКУМЕНТОВ ❯
ПЕРЕЙТИ К ТРЕБОВАНИЯМ ГОСТ 17025 ❯


Документ создается сообществом лабораторий и открыт для дополнения и редактирования.

Вы можете участвовать в корректировке и дополнении, а также направить нам свою версию документа для включения её в состав данного материала. Для этой цели используйте форму загрузки внизу страницы.

Данный материал будет полезен для разработки документов системы менеджмента своей лаборатории.

Содержание
1. Назначение и область применения
1.1.

Процедура устанавливает единые требования к обработке и представлению результатов измерений, полученных в лаборатории (центре).

1.2.

Представление результатов измерений в лабораторных журналах и в документах, выдаваемых лабораторией, осуществляется согласно методикам измерений и данной процедуре.

1.3.

Требования настоящей процедуры распространяются на всех специалистов лаборатории (центра).

2. Нормативные ссылки
2.1.

СТ СЭВ 543-77 "Числа. Правила записи и округления" (настоящий стандарт является обязательным в рамках Конвенции о применении стандартов СЭВ);

2.2.

ГОСТ 8.736-2011 "Государственная система обеспечения единства измерений (ГСИ). Измерения прямые многократные. Методы обработки результатов измерений. Основные положения";

2.3.

МР 18.1.04-2005 "Система контроля качества результатов анализа проб объектов окружающей среды";

2.4.

ПМГ 96-2009 "Государственная система обеспечения единства измерений (ГСИ). Результаты и характеристики качества измерений. Формы представления" (правила по межгосударственной стандартизации введены в действие для добровольного применения в РФ в качестве рекомендаций по метрологии РФ).

3. Определения
3.1.

Значащие цифры числа – это все цифры от первой слева, не равной нулю, до последней записанной цифры справа. При этом нули, следующие из множителя 10n, не учитываются (согласно СТ СЭВ 543-77).

Примеры
1) Число 12,0 – имеет три значащие цифры;
2) Число 30 – имеет две значащие цифры;
3) Число 120 × 103 – имеет три значащие цифры;
4) Число 0,514 × 10 – имеет три значащие цифры;
5) Число 0,0056 × 10 – имеет две значащие цифры;
6) Число 0,704 – имеет три значащие цифры;
7) Число 68 – имеет две значащие цифры.

Таким образом, нули вначале числа всегда незначимы; нули в середине числа между ненулевыми цифрами значимы; нули в конце числа могут быть значимыми и незначимыми.

По количеству значащих цифр осуществляется запись приближенных чисел (согласно СТ СЭВ 543-77).

Пример
Следует различать числа 2,4 и 2,40.
Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть, например, 2,43 и 2,38.
Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть, например, 2,403 и 2,398, но не 2,421 и не 2,382.

3.2.

Округление числа – это отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда (согласно СТ СЭВ 543-77).

В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.

В случае, если первая из отбрасываемых цифр (считая слева направо) равна или больше 5, то последняя сохраняемая цифра увеличивается на единицу.

Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Примеры
1) Если число 12,364 требуется округлить до сотых долей, после округления получаем число 12,36; если число 12,364 требуется округлить до десятых долей, после округления получаем число 12,4.

2) Если число 0,703 требуется округлить до сотых долей, получаем число 0,70; если число 0,703 требуется округлить до десятых долей, после округления получаем число 0,7.

3) Если число 0,703 требуется округлить до двух значащих цифр, после округления получаем число 0,70; если число 0,703 требуется округлить до одной значащей цифры, после округления получаем число 0,7.

4) Если число 0,429 требуется округлить до двух значащих цифр, после округления получаем число 0,43; если число 0,429 требуется округлить до одной значащей цифры, после округления получаем число 0,4.

5) Если число 8,574 требуется округлить до двух значащих цифр, после округления получаем число 8,6; если число 8,574 требуется округлить до одной значащей цифры, после округления получаем число 9.

6) Поэтапное округление результата измерения 227,46 дает на первом этапе 227,5 и на втором этапе 228, в то время как правильный результат округления 227.

3.3.

Окончательный результат – это результат измерения с погрешностью, который вносится испытателями в лабораторные журналы. Окончательный результат выдается лабораторией в протоколе испытаний.

3.4.

Промежуточные результаты – это вся информация по анализу от показания приборов до окончательного результата (в том числе расчеты результатов единичных определений; расчет результата измерения как среднеарифметическое значение результатов единичных определений, полученных в условиях повторяемости; контроль повторяемости; расчет погрешности). Промежуточные результаты заносятся испытателями в лабораторные журналы, но в протоколах испытаний не выдаются.

4. Процедура
4.1. Требования к промежуточному результату
4.1.1.

Число значащих цифр в промежуточных вычислениях при обработке результатов измерений должно быть больше, чем в окончательном результате.

4.1.2.

Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим две значащие цифры, то для промежуточных результатов расчета сохраняем не менее трех значащих цифр.

4.1.3.

Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим одну значащую цифру, то для промежуточных результатов расчета сохраняем не менее двух значащих цифр.

4.1.4.

При проведении промежуточных расчетов в рукописных лабораторных журналах в числовых значениях измеряемой величины и погрешности следует оставлять столько значащих цифр, чтобы в окончательном результате не появлялась ошибка, связанная с поэтапным округлением.

Примеры
Промежуточные результаты Окончательные результаты
0,178 ± 0,053 0,18 ± 0,05
0,1784 ± 0,0533 0,178 ± 0,053
1,22 ± 0,18 1,2 ± 0,2
1,224 ± 0,183 1,22 ± 0,18
3,74 ± 0,748 3,7 ± 0,7
3,742 ± 0,748 3,74 ± 0,75
12,83 ± 1,28 12,8 ± 1,3
54,2 ± 5,4 54 ± 5
54,23 ± 5,42 54,2 ± 5,4
177,6 ± 33,7 178 ± 34
2357,4 ± 212,2 2357 ± 212
11624,8 ± 5812,4 11624 ± 5812
4.2. Требования к окончательному результату
4.2.1.

Числовые значения результата измерений и его погрешности (неопределенности) записываются с указанием одной и той же единицы измерения.

Примеры
(5,4 ± 0,5) мг/дм³;
(6,1 ± 0,7) ммоль/ дм³.

4.2.2.

Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение его погрешности (неопределенности).

Примеры
Правильно Неправильно
0,043 ± 0,004 0,043 ± 0,0043
0,0428 ± 0,0043 0,0428 ± 0,004
17,0 ± 0,2 17,00 ± 0,2 или 17 ± 0,2
12,13 ± 0,17 или 12,1 ± 0,2 12,1 ± 0,17 или 12,13 ± 0,2
46,40 ± 4,64 или 46,4 ± 4,6 46,402 ± 4,64 или 46,4 ± 4,64
4.2.3.

Значение погрешности (неопределенности) результата измерений представляют числом, содержащим одну или две значащих цифры.

Примеры
Результаты измерения
0,14 ± 0,05
0,164 ± 0,051
1,1 ± 0,1
1,18 ± 0,11
3,6 ± 0,6
3,28 ± 0,54
12,4 ± 1,2
44 ± 4
44,2 ± 4,4
168 ± 34
4.2.4.

Если заказчик требует другие формы представления результатов измерений, лаборатория оставляет за собой право учитывать эти требования.

5. Ответственность

Ответственность за правильность обработки и представления результатов измерений несут специалисты лаборатории.

Представление результатов измерений на примере определения обобщенных и химических показателей в воде с учетом требований методик измерений
1.

Железо общее (ГОСТ 4011-72)
Округлять результат до двух значащих цифр.

Примеры
Окончательные результаты, мг/дм³ Промежуточные результаты, мг/дм³
0,12 ± 0,03 0,116 ± 0,029
0,18 ± 0,04 0,178 ± 0,0445*
0,18 ± 0,05 0,183 ± 0,046
0,31 ± 0,08 0,308 ± 0,077
1,3 ± 0,3 1,26 ± 0,32
1,8 ± 0,3 1,77 ± 0,32
12 ± 2 12,4 ± 2,2
25 ± 5 25,3 ± 4,6

* - дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибки в окончательных результатах при поэтапном округлении.

2.

Хлориды (ПНД Ф 14.1:2:3.96-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.

3.

Фосфорсодержащие вещества (ГОСТ 18309-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности, выраженное в мг/дм³ и содержащее не более двух значащих цифр.

4.

Взвешенные вещества (ПНД Ф 14.1:2:3.110-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.

5.

Цветность (ГОСТ 31868-2012)
В протоколе указывают метод определения цветности по настоящему стандарту, результат с указанием единиц измерения (например, градусов цветности по хром-кобальтовой шкале Cr-Co) и температуру пробы анализируемой воды.

Пример
Цветность - 10 градусов цветности (Cr-Co), 18 °С.

При определении цветности при постоянной комнатной температуре (20 ± 5) °С в конкретной лаборатории допускается по согласованию с заказчиком не указывать в протоколе значение температуры.

6.

Металлы (ПНД Ф 14.1:2:4.139-98)
Примеры записи числовых значений:

Диапазон, мг/дм³ Точность округления, мг/дм³
от 0,004 до 0,01 вкл. 0,0001
от 0,01 до 0,1 вкл. 0,001
от 0,1 до 1 вкл. 0,01
от 1 до 10 вкл. 0,1
свыше 10 1
7.

Алюминий (ГОСТ 18165-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и абсолютное значение характеристики погрешности измерений, выраженное в мг/дм³. Абсолютное значение характеристики погрешности измерений представляют двумя значащими цифрами, если первая цифра не превышает 3. В остальных случаях оставляют одну значащую цифру.

Примеры
Окончательные результаты, мг/дм³ Промежуточные результаты, мг/дм³
0,287 ± 0,057 0,2872 ± 0,0574
0,262 ± 0,052 0,2623 ± 0,05246*
2,38 ± 0,48 2,381 ± 0,476
13,5 ± 2,7 13,47 ± 2,69
16,6 ± 3,3 16,62 ± 3,32
22 ± 4 21,8 ± 4,4
27 ± 5 27,4 ± 5,48*
38 ± 7 38,47* ± 7,7
51 ± 10 51,46* ± 10,3

* - дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибок при поэтапном округлении.

8.

Нефтепродукты (ПНД Ф 14.1:2:4.128-98)
Примеры записи числовых значений, мг/дм³:

0,009 ± 0,005 0,08 ± 0,03
0,65 ± 0,16 3,5 ± 0,9
3,5 ± 0,9 25 ± 6
9.

Анионные поверхностно-активные вещества (ПНД Ф 14.1:2:4.158-2000)

Примеры записи
для питьевой воды, мг/дм³
Примеры записи
для природной и сточной воды, мг/дм³
0,028 ± 0,010 0,080 ± 0,032
0,44 ± 0,12 0,35 ± 0,11
4,8 ± 1,0 71 ± 17
10.

Щелочность (МП УВК 1.19-2013)
Численные значения результата количественного химического анализа должны оканчиваться цифрой того же разряда, что и численное значение характеристики погрешности. Характеристику погрешности измерения следует выражать числом, содержащим не более двух значащих цифр.

11.

Температура, прозрачность, запах (РД 52.24.496-2018)
Численное значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности.

12.

Кальций (РД 52.24.403-2018)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения погрешности; последние не должны содержать более двух значащих цифр.

13.

Перманганатная окисляемость (ПНД Ф 14.1:2:4.154-99)
Результаты измерений округляют с точностью:

Диапазон, мг/дм³ Точность округления, мг/дм³
от 0,25 до 1,0 вкл. 0,01
от 1,0 до 10 вкл. 0,1
свыше 10 1
14.

Фториды (ПНД Ф 14.1:2:4.270-2012)
Результаты измерений концентрации фторид-ионов при занесении в протокол округляют с точностью:

Диапазон, мг/дм³ Точность округления, мг/дм³
от 0,15 до 10 вкл. 0,01
свыше 10 0,1
15.

Растворенный кислород (ПНД Ф 14.1:2:3.101-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.


ВЕРНУТЬСЯ К ПЕРЕЧНЮ ДОКУМЕНТОВ ❯
ПЕРЕЙТИ К ТРЕБОВАНИЯМ ГОСТ 17025 ❯

Реклама

Общество с ограниченной ответственностью "Браво Софт", ИНН 5262147360, ERID: 2VtzqxMFexg

Пожаловаться
О рекламодателе
Реклама на LINCO
Скопировать ссылкуСкопировано

  Система МерСИ для удобного и безопасного учета средств измерений

12.02.2024 10:00:00 | Отправитель: Общество с ограниченной ответственностью "Браво Софт"

  info@mersi.bravo-soft.ru
  Поиск ...
  8 (800) 770-06-37

Удобная и безопасная система
по учету СИ для метрологов

1
Создайте безопасную онлайн-картотеку СИ
2
Настраивайте календарь событий
3
Используйте автоматически сгенерированные бирки
4
Формируйте графики на поверку и калибровку
5
Назначайте роли сотрудников согласно структуре отдела
6
Настраивайте уведомления для сотрудников

О продукте

МерСИ − это программное обеспечение для работы метролога. Представляет собой личный кабинет специалиста для управления всеми средствами измерений предприятия.

МерСИ − это эффективный способ автоматизации бизнес-процессов по метрологическому обеспечению.

100%
безопасность базы данных
о средствах измерений

100%
контроль сроков поверок по графику


количество карточек средств измерений

25%
экономия трудовых ресурсов метролога


Получите бесплатный пробный доступ к версии продукта

Заполните короткую форму, чтобы посмотреть программное обеспечение в работе. Вы увидите, как МерСИ помогает бизнесу автоматизировать бизнес-процессы по метрологическому обеспечению производства. Данное ПО предназначено для специалистов-метрологов любого уровня.

Демо-версия продукта включает базовый функционал программы, а именно:

  • работа с общей базой данных средств измерения – фильтры, сортировка, настройка интерфейса отображения,
  • создание и редактирование записей в единой базе данных СИ,
  • календарь событий или планировщик графика работ,
  • генерация бирок для приборов учета,
  • распределение ролей между сотрудников метрологической службы,
  • настройка почтовых оповещений,
  • кастомизация личного кабинета метролога.
Имя
Рабочая почта
 +7
(000) 000-00-00
Перейти к форме Перейти к форме
© Copyright, 2024, ООО «Браво Софт»
603141, г. Н. Новгород, ул. Геологов, д. 1, помещение П34, офис 509

  Ваша почта на LINCO

Подробнее

Работает с интеллектом платформы

Обсудите на Форуме


  • Округление. Обработка и представление результатов измерений

    Наталья, смотрите что у Вас в области аккредитации написано если просто 10, то только целые числа, если 10,0 то с десятыми ...


  • Возможно Вас заинтересует

    Открытая разработка документов для лаборатории
    Открытая разработка документов для лаборатории

    Информация

    Поделиться своими материалами

    Связаться с нами