При использовании физических, физико-химических и химических методов анализа для количественного определения веществ непосредственному измерению подвергается некоторая величина y (аналитический сигнал), которая является, как правило, линейной функцией искомой концентрации (количества) x определяемого вещества или элемента. Иными словами, в основе таких методов анализа лежит экспериментально подтвержденная линейная зависимость:
где: y - измеряемая величина (измеряемое значение аналитического сигнала);
x - концентрация (количество) определяемого вещества или элемента;
b - угловой коэффициент линейной зависимости;
a - свободный член линейной зависимости.
(Здесь b и a рассматривают как коэффициенты (параметры) линейной регрессии y на x).
Для использования зависимости (4.1) в аналитических целях, т.е. для определения конкретной величины x по измеренному значению y, необходимо заранее найти числовые значения констант b и a, т.е. провести калибровку. Иногда константы зависимости (4.1) имеют тот или иной физический смысл, и их значения должны оцениваться с учетом соответствующего доверительного интервала. Если калибровка проведена и значения констант a и b определены, величину xi находят по измеренному значению yi:
При калибровке величину x рассматривают как аргумент, а величину y - как функцию. Наличие линейной зависимости между x и y не всегда является очевидным, ее наличие целесообразно подтверждать расчетным путем. Для этого по экспериментальным данным, полученным при калибровке, оценивают достоверность линейной связи между x и y с использованием корреляционного анализа и лишь затем рассчитывают значения констант a и b зависимости (6.1) и их доверительные интервалы. В первом приближении судить о достоверности линейной связи между переменными x и y можно по величине линейного коэффициента корреляции (или просто коэффициента корреляции) r, который вычисляют по формуле, исходя из экспериментальных данных:
Линейный коэффициент корреляции r изменяется в пределах от -1 до +1. Положительные значения r указывают на рост, а негативные - на уменьшение y с ростом x.
Линейный коэффициент корреляции r является частным случаем общего индекса корреляции Rc, который применим также и для нелинейных зависимостей между величинами y и x:
где: so - остаточное стандартное отклонение (стандартное отклонение линейной зависимости) (уравнение 4.7);
sy - стандартное отклонение величин у относительно среднего значения (4.15); рассчитывают с использованием уравнения (1.5).
Уравнение (4.3а) в силу своей простоты и наглядности нередко используют вместо уравнения (4.3) в том случае, когда знак коэффициента корреляции не имеет значения.
Чем ближе абсолютная величина |r| к единице, тем менее случайна наблюдаемая линейная зависимость между переменными x и y. Коэффициент корреляции r используют обычно для выявления стохастической взаимосвязи между величинами, функциональная зависимость между которыми может и отсутствовать. Коэффициент корреляции является значимым, если его величина для данной вероятности P и числа степеней свободы f превышает значения, приведенные таблице 4 Приложения. В противном случае нельзя говорить о существовании значимых зависимостей (4.1) - (4.2).
Значимость коэффициента корреляции является обязательным, но не достаточным условием использования уравнений (4.1) - (4.2) для аналитических целей. При статистической обработке результатов физического, физико-химического или химического методов анализа лекарственных средств могут быть использованы линейные зависимости с коэффициентом корреляции |r| >= 0,98 (при соответствии требованиям таблицы 4 Приложения), а при анализе следовых количеств определяемых веществ рассматривают линейные зависимости с коэффициентом корреляции |r| >= 0,90. При столь близких значениях величины |r| к единице формальное подтверждение наличия линейной связи между переменными x и y проводить не следует. Вместе с тем необходимо учитывать, что для различных методов анализа лекарственных средств, требования к линейности метода, могут быть различными.
Коэффициенты a и b и другие характеристики линейной зависимости (4.1) рассчитывают с использованием регрессионного анализа, т.е. методом наименьших квадратов по экспериментально измеренным значениям переменной y для заданных значений аргумента x. Пусть в результате эксперимента найдены представленные в таблице 4.-4. пары значений аргумента x и функции y.
Таблица 4.-4. - Значения аргумента x и функции y
Тогда, если величины y1 имеют одинаковую неопределенность (а такое допущение обычно выполняется для достаточно узкого диапазона варьирования величин y1), то
Если полученные значения коэффициентов a и b использовать для вычисления значений y по заданным в таблице 4.-4. значениям аргумента x согласно зависимости (4.1), то вычисленные значения y обозначают через Y1, Y2, ..., Yi, ... Yn. Разброс значений yi относительно значений Yi характеризует величина остаточной дисперсии (дисперсии линейной зависимости), которую вычисляют по формуле:
Для того, чтобы уравнения (4.1) - (4.2) адекватно описывали экспериментальные данные, необходимо, чтобы остаточная дисперсия не отличалась значимо по критерию Фишера (уравнения (2.1) и (2.2)) от дисперсии прецизионности величин y1. Последняя может быть найдена или спрогнозирована из паспортных данных оборудования.
В свою очередь, дисперсии констант b и a находят по уравнениям:
Стандартные отклонения sb и sa и величины и , необходимые для оценки доверительных интервалов констант уравнения регрессии, рассчитывают по уравнениям:
Коэффициенты a и b должны значимо отличаться от нуля, т.е. превышать, соответственно, величины и .
Уравнению (4.1) с константами a и b обязательно удовлетворяет точка с координатами и , называемая центром калибровочного графика:
Наименьшие отклонения значений yi от значений Yi наблюдаются в окрестностях центра графика. Стандартные отклонения sy и sx величин y и x, рассчитанных соответственно по уравнениям (4.1) и (4.2), исходя соответственно из известных значений x и y, определяют с учетом удаления последних от центра графика:
nj - число вариант y, использованных при определении .
При и выражения (4.16) и (4.17) принимают вид:
С учетом значений sy и sx могут быть найдены значения величин и :
Значения sx и , найденные при nj = 1, являются характеристиками прецизионности аналитической методики, если x - концентрация (количество), а y - функция x.
Обычно результаты статистической обработки по методу наименьших квадратов сводят в таблицу (таблица 4.-5).
Таблица 4.-5. - Результаты статистической обработки экспериментальных данных, полученных при изучении линейной зависимости y = bx + a
1. Если целью экспериментальной работы являлось определение констант b и a, графы 11, 12 и 13 таблицы не заполняют.
2. Если y = b · lgx + a, вычисления, описанные в настоящем разделе, выполняют с использованием уравнений (1.8), (1.9), (1.29) - (1.32).
- Гражданский кодекс (ГК РФ)
- Жилищный кодекс (ЖК РФ)
- Налоговый кодекс (НК РФ)
- Трудовой кодекс (ТК РФ)
- Уголовный кодекс (УК РФ)
- Бюджетный кодекс (БК РФ)
- Арбитражный процессуальный кодекс
- Конституция РФ
- Земельный кодекс (ЗК РФ)
- Лесной кодекс (ЛК РФ)
- Семейный кодекс (СК РФ)
- Уголовно-исполнительный кодекс
- Уголовно-процессуальный кодекс
- Производственный календарь на 2025 год
- МРОТ 2024
- ФЗ «О банкротстве»
- О защите прав потребителей (ЗОЗПП)
- Об исполнительном производстве
- О персональных данных
- О налогах на имущество физических лиц
- О средствах массовой информации
- Производственный календарь на 2024 год
- Федеральный закон "О полиции" N 3-ФЗ
- Расходы организации ПБУ 10/99
- Минимальный размер оплаты труда (МРОТ)
- Календарь бухгалтера на 2024 год
- Частичная мобилизация: обзор новостей