2.2. Выявление грубых ошибок и первичная обработка полученных данных

Часто ответ тест-объекта, характеризующий биологическую активность лекарственного средства, выражают в количественной форме, например концентрация глюкозы в крови при определении биологической активности инсулина, время свертывания крови при действии гепарина и т.д. В таких случаях конечным результатом испытания чаще всего считают среднее значение y, а точнее - его доверительный интервал (ДИ), если в частной фармакопейной статье не указано иное.

При проверке, не является ли значение ответа так называемой "грубой ошибкой", которую следует исключить из дальнейших расчетов, используют контрольный Q-критерий (n <= 10). Значение, которое может рассматриваться как грубая ошибка, обозначают как x₁, а n ответов упорядочивают по величине. Затем вычисляют

для ,

для .

Найденное значение Q сопоставляют с табличным Q (P; n). Величину x₁ можно считать грубой ошибкой, если наблюдаемое значение Q превышает табличное (таблица 1 Приложения).

Например, при определении биологической активности гонадотропина хорионического на крысах-самках, в одной из групп были получены следующие результаты (отношение массы матки в мг к массе тела в г): 1,769; 2,556; 2,977; 3,123; 3,331; 3,354; 3,447; 3,525; 3,995; 4,382. Значение 1,769 лежит несколько в стороне от остальных и должно быть проверено с помощью Q-критерия. Согласно вышеуказанной формуле при n = 10

.

Полученное значение Q-критерия меньше критического, составляющего 0,48 (P = 0,95).

Следовательно, значение 1,769 не является грубой ошибкой.

При 10 < n < 1000 по всем данным, кроме подозрительного значения вычисляют среднее арифметическое и среднее квадратическое отклонение. Подозрительное значение считают грубой ошибкой, если оно удалено от среднего более чем на 4s.

В результате получают однородную выборку, для которой вычисляют средний ответ , дисперсию ответа s², его среднее квадратическое отклонение и доверительный интервал.

В качестве примера первичной обработки полученных данных можно привести определение удлиненного (пролонгированного) действия инсулина и его аналогов (раздел 3.2.7). В контрольной временной точке (5,84 ч) концентрация глюкозы в крови животных группы, получившей стандартный образец, составила (в %) 92,25; 105,24; 98,34; 106,28; 102,99; 89,12; 95,94; 111,68; 98,71.

Расчет проводят по следующим формулам при p = 0,05.

Средний ответ .

Дисперсия ответа

.

Среднее квадратическое отклонение s = 7,17.

Число степеней свободы f = n - 1 = 8.

Критическое значение критерия Стьюдента t(0,05; 8) = 2,31 (таблица 2 Приложения).

Полуширина доверительного интервала

.

; y_min = 94,5%;

y_max = 105,5%.