Подготовлена редакция документа с изменениями, не вступившими в силу

3.2.4. Двухдозовый латинский квадрат (на примере биологической активности окситоцина на изолированном органе)

При использовании в качестве тест-объекта изолированного рога матки крысы, помещенного в термостатируемую ванночку с питательным раствором. Ответами изолированного органа являются величины изотонических сокращений после введения в равных объемах двух концентраций стандартного образца и двух концентраций испытуемого образца окситоцина. Сокращения регистрируют в виде амплитуды перемещения писчика регистрирующего устройства или, в случае компьютеризированного прибора, автоматически регистрируют с помощью программного обеспечения. Порядок введения стандартного образца и испытуемого образца приведен в таблице 3.2.4.-11.

Таблица 3.2.4.-11. - Порядок введения доз стандартного образца и испытуемого образца окситоцина в ванночку (схема двухдозового латинского квадрата)

1.

s1

s2

u1

u2

2.

u2

s1

s2

u1

3.

u1

u2

s1

s2

4.

s2

u1

u2

s1

Для того чтобы проверить статистическую значимость источников вариации, пригодность результатов и вычислить дисперсию опыта, проводят дисперсионный анализ полученных данных. При этом рассчитывают значения дисперсий для 8 источников (сводная таблица 3.2.4.-14).

Для этого на основании данных, представленных в таблицах 3.2.4.-12 и 3.2.4.-13, а также поправочного коэффициента, вычисляют суммы квадратов источников дисперсии.

Таблица 3.2.4.-12. - Ответы изолированного органа (см) на введение стандартного образца и испытуемого образца окситоцина (схема двухдозового латинского квадрата)

Строка

Столбцы

Сумма строк (R)

R2

1.

6,50

12,45

9,75

12,5

R1 = 41,20

1697,44

2.

12,20

5,35

12,70

6,10

R2 = 36,35

1321,32

3.

6,40

12,30

5,25

12,85

R3 = 36,80

1354,24

4.

12,80

5,70

11,55

4,30

R4 = 34,35

1179,92

Сумма столбцов (C)

37,90

35,80

39,25

35,75

00001410.wmz

C2

1436,41

1281,64

1540,56

1278,063

00001411.wmz

Таблица 3.2.4.-13. - Суммы ответов и контрасты (схема двухдозового латинского квадрата)

Стандартный образец S

Испытуемый образец U

Сумма

Малая доза

S1 = 21,40

U1 = 27,95

Большая доза

S2 = 50,80

U2 = 48,55

Сумма

S = 72,20

U = 76,5

00001412.wmz

Линейный контраст

Ls = 29,40

LU = 20,6

00001413.wmz

Поправочный коэффициент

00001414.wmz;

Таблица 3.2.4.-14. - Сводная таблица дисперсионного анализа (двухдозовый латинский квадрат)

Источник дисперсии (показатель)

Число степеней свободы (f)

Сумма квадратов

Средний квадрат

Наблюдаемое значение критерия Фишера

Fнабл.

Критическое значение критерия Фишера

Fкритич.

00001415.wmz

Препараты

1

1,156

1,156

Регрессия

1

156,25

156,25

186,75

> 13,75

(p = 0,01)

Непараллельность

1

4,84

4,84

5,78

< 5,99

(p = 0,05)

Постановки

k - 1 = 4 - 1 = 3 = fп.

162,246

54,082

Строки

n - 1 = 3 = fстр.

6,25

2,083

2,49

< 9,78

(p = 0,01)

Столбцы

n - 1 = 3 = fст.

2,19

0,73

0,872

< 9,78

(p = 0,01)

Отклонение

N - 1 - fп. - fстр. - fст. - m = 6

5,02

0,837

Итог

N - 1 - m = 15

175,705

11,71

n = 4 (число ответов на дозу); N = 16 (общее число ответов в опыте); m = 0 (число утраченных и замененных значений).

00001416.wmz;

00001417.wmz;

00001418.wmz;

00001419.wmz;

00001420.wmz;

00001421.wmz;

00001422.wmz;

Отклонение = итог - постановки - строки - столбцы =

= 175,705 - 162,246 - 6,25 - 2,19 = 5,02.

Значимость различий дисперсий проверяют с помощью критерия Фишера. Обязательным является выполнение требований для показателей Регрессия, Непараллельность, Строки и Столбцы. Для Регрессии наблюдаемое значение критерия Фишера должно быть больше критического (p = 0,01), а для показателей Непараллельность (p = 0,05), Строки (p = 0,01), Столбцы (p = 0,01) - меньше критического. Показатель Регрессия характеризует дозозависимость, Непараллельность - параллельность двух линий регрессии, а Строки и Столбцы - сбалансированность ответов изолированного органа на протяжении всего опыта.

Для того чтобы найти Fнабл. средние квадраты показателей делят на средний квадрат показателя Отклонение. Полученные результаты сравнивают с табличными критическими значениями критерия Фишера (таблица 3 Приложения). Число степеней свободы f1 = 1 или 3, а f2 = 6.

Дисперсионный анализ показал пригодность результатов опыта: статистическую значимость дозозависимости (Регрессия), параллельность двух линий регрессии (Непараллельность) и отсутствие статистически значимых различий между строками и столбцами (см. одноименные показатели).

Вычисление биологической активности и ее доверительных границ

Соотношение доз равно 2, следовательно I = lg2,0 = 0,3010;

t = 1,958788 + 2,429953 / f + 2,189891 / f2 +

+ 4,630189 / f3 + 1,398179 / f9 = 2,446

при f = 6 и p = 0,05;

00001423.wmz;

00001424.wmz;

00001425.wmz;

00001426.wmz;

Ожидаемая активность AU = 5 МЕ/мл

00001427.wmz;

Биологическая активность RU = 100,725 = 5,31 МЕ/мл

C = E / (E - s2t2) =

= 156,25 / (156,25 - 0,837 · 2,4462) = 1,033.

Логарифмические доверительные границы биологической активности испытуемого образца вычисляют по формуле:

00001428.wmz.

Логарифмические доверительные границы биологической активности испытуемого образца составляют - 0,0281 и 0,0816. Нижняя и верхняя доверительная граница составляет 00001429.wmz и 00001430.wmz, т.е. 4,69 МЕ/мл и 6,03 МЕ/мл соответственно.