Критические значения отношения для исключения выскакивающих значений
Поможем в ✍️ написании учебной работы
Поможем с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой

(по книге: Ашмарин И. В., Воробьев А. А Статистические методы в микробиологическом исследовании. – Л., 1962.)

Если полученная (расчетная) величина отношения ³ величине табличного отношения, то проверяемое значение переменной является выскакивающей вариантой; и её следует исключить из всех последующих операций по статистической обработке результатов исследования.

       При этом a=0,01 — высокий уровень достоверности; a=0,05 — может быть грубая ошибка при исключении выскакивающего значения; a >0,05 — отбрасывать проверяемое значение нельзя.

Таблица 42

N

a=0,05

a=0,01

Отношения

Отношения

I а I б I в I а I б I в
II а II б II в II а II б II в
3 0,941 1,000 1,000 0,988 1,000 1,000
4 0,765 0,955 0,967 0,889 0,991 0,992
5 0,642 0,807 0,845 0,780 0,916 0,929
6 0,560 0,689 0,736 0,698 0,805 0,836
7 0,507 0,610 0,661 0,637 0,740 0,778
8 0,468 0,554 0,607 0,590 0,683 0,710
9 0,437 0,512 0,565 0,555 0,635 0,667
10 0,412 0,477 0,531 0,527 0,597 0,632
11 0,392 0,450 0,504 0,502 0,566 0,603
12 0,376 0,428 0,481 0,482 0,541 0,579
15 0,338 0,381 0,430 0,438 0,486 0,522
20 0,300 0,334 0,372 0,391 0,430 0,464
24 0,281 0,309 0,347 0,367 0,400 0,434
30 0,260 0,283 0,322 0,341 0,369 0,402

 

Примечания к таблице критических значений:

1. Отношения I предназначены для оценки выскакивающих наибольших значений; отношения II — для оценки выскакивающих наименьших вариант.

2. a — вероятность ошибки при принятии решении. Эта величина характеризует уровень достоверности или значимости вывода. Сопряженная с ней величина р — доверительная вероятность или вероятность того, что мы не ошиблись и приняли правильное решение. Вместе эти две величины являются полным набором событий: р + a = 1,00. В психологии принято принимать решения на двух уровнях достоверности (значимости): a = 0,005 или р = 0,95 — меньший уровень достоверности  и a = 0,01 или р = 0,99 — высокий уровень значимости выводов.



Критические значения коэффициента ранговой корреляции Спирмена

(по книге: Суходольский Г. В. Основы математической статистики для психологов. – Л., 1972. – С. 419. )

Таблица 43

      N

a

0,05 0,01
5 0,94
6 0,85
7 0,78 0,94
8 0,72 0,88
9 0,68 0,83
10 0,64 0,79
11 0,61 0,76
12 0,58 0,73
13 0,56 0,70
14 0,54 0,68
15 0,52 0,66
16 0,50 0,64
17 0,48 0,62
18 0,47 0,60
19 0,46 0,58
20 0,45 0,57
21 0,44 0,56
22 0,43 0,54
23 0,42 0,53
24 0,41 0,52
25 0,40 0,51
26 0,39 0,50
27 0,38 0,49
28 0,38 0,48
29 0,37 0,48
30 0,36 0,47
31 0,36 0,46
32 0,36 0,45
33 0,34 0,45
34 0,34 0,44
35 0,33 0,43
36 0,33 0,43
37 0,33 0,43
38 0,32 0,41
39 0,32 0,41
40 0,31 0,40

 



Критические значения коэффициента линейной корреляции Пирсона

(по книге: Суходольский Г. В. Основы математической статистики для психологов. – Л., 1972. – С. 418.)

Таблица 44

                                 N a =0,05 a =0,01
4 0,950 0,990
5 0,878 0,959
6 0,811 0,917
7 0,754 0,874
8 0,707 0,834
9 0,666 0,798
10 0,632 0,765
11 0,602 0,735
12 0,576 0,708
13 0,553 0,684
14 0,532 0,661
15 0,514 0,641
16 0,497 0,623
17 0,482 0,606
18 0,468 0,590
19 0,456 0,575
20 0,444 0,561
21 0,433 0,549
22 0,423 0,537
23 0,413 0,526
24 0,404 0,515
25 0,396 0,505
26 0,388 0,496
27 0,381 0,487
28 0,374 0,478
29 0,367 0,470
30 0,361 0,463
35 0,332 0,435
40 0,310 0,407
45 0,292 0,384
50 0,277 0,364
60 0,253 0,333
70 0,234 0,308
80 0,219 0,288
90 0,206 0,272
100 0,196 0,258
125 0,175 0,230
150 0,160 0,210
200 0,138 0,182

 



Критические значения критерия хи-квадрат Пирсона

( по книге: Суходольский Г. В. Основы математической статистики для психологов. – Л., 1972– С. 419-420).

При c 2 эмп. ³ c 2 теор., a , n различия статистически достоверны.

Таблица 45

n a =0,05 a =0,01 n a =0,05 a =0,01 n a =0,05 a =0,01
1 3,84 6,64 35 49,8 57,3 69 89,4 99,2
2 5,99 9,21 36 51,0 58,6 70 90,5 100
3 7,82 11,3 37 52,2 59,9 71 91,7 102
4 9,49 13,3 38 53,4 61,2 72 92,8 103
5 11,1 15,1 39 54,6 62,4 73 93,9 104
6 12,6 16,8 40 55,8 63,7 74 95,1 105
7 14,1 18,5 41 56,9 65,0 75 96,2 106
8 15,5 20,1 42 58,1 66,2 76 97,4 108
9 16,9 21,7 43 59,3 67,5 77 98,5 109
10 18,3 23,2 44 60,5 68,7 78 99,6 110
11 19,7 24,7 45 61,7 70,0 79 101 111
12 21,0 26,2 46 62,8 71,2 80 102 112
13 22,4 27,7 47 64,0 72,4 81 103 114
14 23,7 29,1 48 65,2 73,7 82 104 115
15 25,0 30,6 49 66,3 74,9 83 105 116
16 26,3 32,0 50 67,5 76,2 84 106 117
17 27,6 33,4 51 68,7 77,4 85 108 118
18 28,9 34,8 52 69,8 78,6 86 109 119
19 30,1 36,2 53 71,0 79,8 87 110 121
20 31,4 37,6 54 72,2 81,1 88 111 122
21 32,7 38,9 55 73,3 82,3 89 112 123
22 33,9 40,3 56 74,5 83,5 90 113 124
23 35,2 41,6 57 75,6 84,7 91 114 125
24 36,4 43,0 58 76,8 86,0 92 115 126
25 37,6 44,4 59 77,9 87,2 93 116 128
26 38,9 45,6 60 79,1 88,4 94 118 129
27 40,1 47,0 61 80,2 89,6 95 119 130
28 41,3 48,3 62 81,4 90,8 96 120 131
29 42,6 49,6 63 82,5 92,0 97 121 132
30 43,8 50,9 64 83,7 93,2 98 122 133
31 45,0 52,2 65 84,8 94,4 99 123 135
32 46,2 53,5 66 86,0 95,6 100 124 136
33 47,4 54,8 67 87,1 96,8      
34 48,6 56,1 68 88,2 98,0      

 1.5. Критические значения критерия Стьюдента

(по книге: Суходольский Г. В. Основы математической статистики для психологов. — Л., 1962. — С.420.)

При t расч. ³ t табл., a , n различия статистически значимы.

Таблица 46

ν α=0,05 α=0,01
1 12,706 63,657
2 4,303 9,925
3 3,182 5,841
4 2,776 4,604
5 2,571 4,032
6 2,447 3,707
7 2,365 3,450
8 2,306 3,355
9 2,262 3,250
10 2,228 3,169
11 2,201 3,106
12 2,179 3,054
13 2,160 3,012
14 2,145 2,977
15 2,131 2,947
16 2,120 2,921
17 2,110 2,898
18 2,101 2,878
19 2,093 2,861
20 2,086 2,845
21 2,080 2,831
22 2,074 2,819
23 2,069 2,807
24 2,064 2,797
25 2,060 2,787
26 2,056 2,779
27 2,052 2,771
28 2,048 2,763
29 2,045 2,756
30 2,042 2,750
35 2,030 2,724
40 2,021 2,704
45 2,014 2,690
50 2,009 2,678
55 2,004 2,668
60 2,000 2,660
65 1,997 2,654
70 1,994 2,648
75 1,992 2,643
80 1,990 2,639
85 1,988 2,635
90 1,987 2,632
95 1,985 2,629
100 1,984 2,626
105 1,983 2,623

 1.6. Критические значения критерия Фишера

(по книге: Суходольский Г. В. Основы математической статистики для психологов. — Л., 1962. — С. 421-422.)

 

При F расч. ³ F табл., α , ν 1, ν 2 дисперсии статистически различаются;

ν1 — число степеней свободы числителя, ν2 — число степеней свободы знаменателя.

Таблица 47

α=0,05

ν 2

ν 1

1 2 3 4 5 6 8 12 16 24 50
1 161,4 199,5 215,7 224,6 230,2 234,0 238,9 243,9 246,5 249,0 251,8
2 18,51 19,00 19,16 19,25 19,30 19,33 19,37 19,41 19,43 19,45 19,74
3 10,13 9,55 9,28 9,12 9,01 8,94 8,84 8,74 8,69 8,64 8,58
4 7,71 6,94 6,59 6,39 6,26 6,16 6,04 5,91 5,84 5,77 5,70
5 6,61 5,79 5,41 5,19 5,05 4,95 4,82 4,68 4,60 4,53 4,44
6 5,99 5,14 4,76 4,53 4,39 4,28 4,15 4,00 3,92 3,84 3,75
7 5,59 4,74 4,35 4,12 3,97 3,87 3,73 3,57 3,49 3,41 3,32
8 5,32 4,46 4,07 3,84 3,69 3,58 3,44 3,28 3,20 3,12 3,03
9 5,12 4,26 3,86 3,63 3,48 3,37 3,23 3,07 2,98 2,90 2,80
10 4,96 4,10 3,71 3,48 3,33 3,22 3,07 2,91 2,82 2,74 2,64
11 4,84 3,98 3,59 3,36 3,20 3,09 2,95 2,79 2,70 2,61 2,50
12 4,75 3,88 3,49 3,26 3,11 3,00 2,85 2,69 2,60 2,50 2,40
13 4,67 3,80 3,41 3,18 3,02 2,92 2,77 2,60 2,51 2,42 2,32
14 4,60 3,74 3,34 3,11 2,96 2,85 2,70 2,53 2,44 2,35 2,24
15 4,54 3,68 3,29 3,06 2,90 2,79 2,64 2,48 2,39 2,29 2,18
16 4,49 3,63 3,24 3,01 2,85 2,74 2,59 2,42 2,33 2,24 2,13
17 4,45 3,59 3,20 2,96 2,81 2,70 2,55 2,38 2,29 2,19 2,08
18 4,41 3,55 3,16 2,93 2,77 2,66 2,51 2,34 2,25 2,15 2,04
19 4,38 3,52 3,13 2,90 2,74 2,63 2,48 2,31 2,21 2,11 2,00
20 4,35 3,49 3,10 2,87 2,71 2,60 2,45 2,28 2,18 2,08 1,96
21 4,32 3,47 3,07 2,84 2,68 2,57 2,42 2,25 2,15 2,05 1,93
22 4,30 3,44 3,05 2,82 2,66 2,55 2,40 2,23 2,13 2,03 1,91
23 4,28 3,42 3,03 2,80 2,64 2,53 2,38 2,20 2,11 2,00 1,88
24 4,26 3,40 3,01 2,78 2,62 2,51 2,36 2,18 2,09 1,98 1,86
25 4,24 3,38 2,99 2,76 2,60 2,49 2,34 2,16 2,07 1,96 1,84
26 4,22 3,37 2,98 2,74 2,59 2,47 2,32 2,15 2,05 1,95 1,82
27 4,21 3,35 2,96 2,73 2,57 2,46 2,30 2,13 2,03 1,93 1,80
28 4,20 3,34 2,95 2,71 2,56 2,44 2,29 2,12 2,02 1,91 1,78
29 4,18 3,33 2,93 2,70 2,54 2,43 2,28 2,10 2,00 1,90 1,77
30 4,17 3,32 2,92 2,69 2,53 2,42 2,27 2,09 1,99 1,89 1,76
35 4,12 3,26 2,87 2,64 2,48 2,37 2,22 2,04 1,94 1,83 1,70
40 4,08 3,23 2,84 2,61 2,45 2,34 2,18 2,00 1,90 1,79 1,66
45 4,06 3,21 2,81 2,58 2,42 2,31 2,15 1,97 1,87 1,76 1,63
50 4,03 3,18 2,79 2,56 2,40 2,29 2,13 1,95 1,85 1,74 1,60
60 4,00 3,15 2,76 2,52 2,37 2,25 2,10 1,92 1,81 1,70 1,56
70 3,98 3,13 2,74 2,50 2,35 2,23 2,07 1,89 1,79 1,67 1,53
80 3,96 3,11 2,72 2,49 2,33 2,21 2,06 1,88 1,77 1,65 1,51
90 3,95 3,10 2,71 2,47 2,32 2,20 2,04 1,86 1,76 1,64 1,49
100 3,94 3,09 2,70 2,46 2,30 2,19 2,03 1,85 1,75 1,63 1,48

 


Таблица 48

α=0,01

ν2

ν1

1 2 3 4 5 6 8 12 16 24 50
1 4052 4999 5403 5625 5764 5859 5981 6106 6169 6234 6302
2 98,49 99,00 99,17 99,25 99,30 99,33 99,36 99,42 99,44 99,46 99,48
3 34,12 30,81 29,46 28,71 28,24 27,91 27,49 27,05 26,83 26,60 26,35
4 21,20 18,00 16,69 15,98 15,52 15,21 14,80 14,37 14,15 13,93 13,69
5 16,26 13,27 12,06 11,39 10,97 10,67 10,29 9,89 9,68 9,47 9,24
6 13,74 10,92 9,78 9,15 8,75 8,47 8,10 7,72 7,52 7,31 7,09
7 12,25 9,55 8,45 7,85 7,46 7,19 6,84 6,47 6,27 6,07 5,85
8 11,26 8,65 7,59 7,01 6,63 6,37 6,03 5,67 5,48 5,28 5,06
9 10,56 8,02 6,99 6,42 6,06 5,80 5,47 5,11 4,92 4,73 4,51
10 10,04 7,56 6,55 5,99 5,64 5,39 5,06 4,71 4,52 4,33 4,12
11 9,65 7,20 6,22 5,67 5,32 5,07 4,74 4,40 4,21 4,02 3,80
12 9,33 6,93 5,95 5,41 5,06 4,82 4,50 4,16 3,98 3,78 3,56
13 9,07 6,70 5,74 5,20 4,86 4,62 4,30 3,96 3,78 3,59 3,37
14 8,86 6,51 5,56 5,03 4,69 4,46 4,14 3,80 3,62 3,43 3,21
15 8,68 6,36 5,42 4,89 4,56 4,32 4,00 3,67 3,48 3,29 3,07
16 8,53 6,23 5,29 4,77 4,44 4,20 3,89 3,55 3,37 3,18 2,96
17 8,40 6,11 5,18 4,67 4,34 4,10 3,79 3,45 3,27 3,08 2,86
18 8,28 6,01 5,09 4,58 4,25 4,01 3,71 3,37 3,20 3,00 2,79
19 8,18 5,93 5,01 4,50 4,17 3,94 3,63 3,30 3,12 2,92 2,70
20 8,10 5,85 4,94 4,43 4,10 3,87 3,56 3,23 3,05 2,86 2,63
21 8,02 5,78 4,87 4,37 4,04 3,84 3,51 3,17 2,99 2,80 2,58
22 7,94 5,72 4,82 4,31 3,99 3,76 3,45 3,12 2,94 2,75 2,53
23 7,88 5,66 4,75 4,26 3,94 3,71 3,41 3,07 2,89 2,70 2,48
24 7,82 5,61 4,72 4,22 3,90 3,67 3,36 3,03 2,85 2,66 2,44
25 7,77 5,57 4,68 4,18 3,86 3,63 3,32 2,99 2,81 2,62 2,40
26 7,72 5,53 4,64 4,14 3,82 3,59 3,29 2,96 2,78 2,58 2,36
27 7,68 5,49 4,60 4,11 3,78 3,56 3,26 2,93 2,74 2,55 2,33
28 7,64 5,45 4,57 4,07 3,75 3,53 3,23 2,90 2,71 2,52 2,30
29 7,60 5,42 4,54 4,04 3,73 3,50 3,20 2,87 2,68 2,49 2,27
30 7,56 5,39 4,51 4,02 3,70 3,47 3,17 2,84 2,66 2,47 2,24
35 7,42 5,27 4,40 3,91 3,59 3,37 3,07 2,74 2,56 2,37 2,13
40 7,31 5,18 4,31 3,83 3,51 3,29 2,99 2,66 2,48 2,29 2,05
45 7,23 5,11 4,25 3,77 3,45 3,23 2,94 2,61 2,43 2,23 1,99
50 7,17 5,06 4,20 3,72 3,41 3,19 2,89 2,56 2,38 2,18 1,94
60 7,08 4,98 4,13 3,65 3,34 3,12 2,82 2,50 2,32 2,12 1,87
70 7,01 4,92 4,07 3,60 3,29 3,07 2,78 2,45 2,28 2,07 1,82
80 6,96 4,88 4,04 3,56 3,26 3,04 2,74 2,42 2,24 2,03 1,78
90 6,92 4,85 4,01 3,53 3,23 3,01 2,72 2,39 2,21 2,00 1,75
100 6,90 4,82 3,98 3,51 3,21 2,99 2,69 2,37 2,19 1,98 1,73

 




Дата: 2019-11-01, просмотров: 287.