분산분석 개념과 원리
Share on
분산분석 개념과 원리
개념
-
세 집단 이상간의 평균차이 분석
-
독립변수(3집단 이상), 종속변수(연속형 변수)
-
머신 러닝의 가장 큰 과제 중 하나는 모델을 학습하는 데 사용되는 가장 안정적이고 유용한 기능을 선택하는 것입니다. ANOVA는 모델 학습에 가장 적합한 기능을 선택하는 데 도움이 됩니다. ANOVA는 모델의 복잡성을 줄이기 위해 입력 변수의 수를 최소화합니다. ANOVA는 독립 변수가 목표 변수에 영향을 미치는지 확인하는 데 도움이 됩니다.
분산분석 대상 변수는 무엇일까?
-
결혼여부, 학력, 직업, 월소득, 피부타입
-
인지 브랜드, 구매동기, 구매성향
1
a <- read.csv('cosmetics.csv', header = T)
1
a
| gender | marriage | edu | job | mincome | aware | count | amount | decision | propensity | skin | promo | location | satisf_b | satisf_i | satisf_al | repurchase |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 1 | 1 | 4 | 1 | 2 | 2 | 1 | 11000 | 2 | 1 | 1 | 1 | 2 | 5 | 2 | 2 | 2 |
| 2 | 1 | 4 | 9 | 2 | 1 | 4 | 30000 | 1 | 1 | 3 | 2 | 3 | 2 | 3 | 3 | 4 |
| 2 | 2 | 4 | 4 | 3 | 1 | 6 | 100000 | 3 | 2 | 3 | 2 | 2 | 4 | 5 | 4 | 4 |
| 2 | 2 | 4 | 7 | 5 | 2 | 6 | 65000 | 3 | 2 | 5 | 2 | 3 | 3 | 4 | 4 | 4 |
| 1 | 2 | 6 | 6 | 5 | 2 | 2 | 50000 | 2 | 2 | 3 | 2 | 3 | 3 | 3 | 3 | 3 |
| 2 | 2 | 2 | 7 | 3 | 1 | 2 | 100000 | 2 | 1 | 4 | 2 | 3 | 3 | 4 | 4 | 3 |
| 2 | 1 | 6 | 4 | 5 | 1 | 5 | 100000 | 3 | 2 | 5 | 2 | 3 | 2 | 2 | 3 | 4 |
| 1 | 1 | 6 | 4 | 5 | 4 | 10 | 39000 | 3 | 2 | 2 | 1 | 2 | 4 | 4 | 4 | 4 |
| 2 | 2 | 4 | 5 | 2 | 2 | 2 | 40000 | 3 | 2 | 3 | 2 | 3 | 3 | 4 | 4 | 4 |
| 2 | 2 | 4 | 5 | 2 | 1 | 2 | 100000 | 3 | 3 | 3 | 1 | 3 | 2 | 3 | 4 | 4 |
| 2 | 1 | 7 | 4 | 3 | 10 | 3 | 50000 | 1 | 3 | 1 | 2 | 3 | 3 | 3 | 4 | 4 |
| 1 | 1 | 2 | 5 | 3 | 2 | 1 | 30000 | 3 | 2 | 3 | 2 | 2 | 3 | 3 | 3 | 3 |
| 2 | 2 | 4 | 4 | 3 | 4 | 4 | 320000 | 2 | 3 | 3 | 3 | 2 | 4 | 4 | 4 | 4 |
| 2 | 2 | 4 | 4 | 2 | 3 | 2 | 200000 | 1 | 2 | 3 | 1 | 3 | 3 | 3 | 3 | 3 |
| 1 | 2 | 4 | 4 | 6 | 2 | 2 | 60000 | 3 | 2 | 1 | 2 | 5 | 3 | 3 | 3 | 4 |
| 2 | 1 | 4 | 5 | 2 | 2 | 3 | 50000 | 1 | 2 | 4 | 1 | 3 | 3 | 4 | 3 | 3 |
| 1 | 2 | 8 | 3 | 2 | 5 | 3 | 1000000 | 1 | 3 | 1 | 2 | 2 | 3 | 3 | 3 | 3 |
| 2 | 1 | 3 | 8 | 5 | 1 | 6 | 1500000 | 3 | 3 | 2 | 4 | 1 | 4 | 4 | 4 | 4 |
| 1 | 2 | 2 | 6 | 2 | 4 | 1 | 80000 | 2 | 3 | 1 | 2 | 3 | 3 | 3 | 4 | 4 |
| 1 | 1 | 4 | 4 | 3 | 8 | 3 | 30000 | 2 | 2 | 3 | 2 | 3 | 3 | 3 | 3 | 3 |
| 2 | 2 | 2 | 4 | 2 | 8 | 4 | 350000 | 3 | 2 | 3 | 2 | 2 | 3 | 4 | 4 | 4 |
| 2 | 2 | 4 | 7 | 6 | 1 | 4 | 250000 | 3 | 3 | 2 | 2 | 3 | 2 | 3 | 4 | 4 |
| 2 | 2 | 4 | 7 | 3 | 1 | 25 | 50000 | 2 | 2 | 1 | 2 | 3 | 3 | 4 | 4 | 4 |
| 2 | 2 | 2 | 9 | 1 | 1 | 1 | 20000 | 1 | 1 | 5 | 1 | 3 | 3 | 3 | 3 | 3 |
| 1 | 1 | 3 | 8 | 4 | 2 | 3 | 42000 | 1 | 2 | 3 | 1 | 3 | 3 | 3 | 4 | 4 |
| 1 | 1 | 4 | 8 | 4 | 2 | 3 | 42000 | 3 | 3 | 2 | 1 | 3 | 3 | 4 | 4 | 4 |
| 2 | 1 | 4 | 4 | 3 | 2 | 20 | 40000 | 3 | 1 | 5 | 2 | 3 | 2 | 4 | 4 | 4 |
| 2 | 2 | 4 | 4 | 6 | 1 | 6 | 70000 | 3 | 3 | 5 | 2 | 1 | 3 | 4 | 4 | 4 |
| 2 | 2 | 8 | 4 | 5 | 5 | 6 | 200000 | 2 | 1 | 4 | 1 | 1 | 4 | 4 | 4 | 3 |
| 1 | 2 | 4 | 2 | 6 | 2 | 1 | 200000 | 3 | 2 | 1 | 2 | 2 | 3 | 4 | 4 | 4 |
| ... | ... | ... | ... | ... | ... | ... | ... | ... | ... | ... | ... | ... | ... | ... | ... | ... |
| 2 | 2 | 4 | 5 | 2 | 1 | 10 | 30000 | 2 | 2 | 2 | 4 | 3 | 3 | 4 | 4 | 4 |
| 1 | 2 | 4 | 6 | 6 | 7 | 5 | 50000 | 3 | 2 | 4 | 2 | 2 | 3 | 4 | 4 | 4 |
| 1 | 2 | 4 | 1 | 4 | 1 | 1 | 10000 | 1 | 3 | 1 | 1 | 1 | 5 | 1 | 3 | 1 |
| 1 | 1 | 4 | 4 | 3 | 2 | 1 | 10000 | 1 | 1 | 4 | 3 | 2 | 2 | 3 | 3 | 3 |
| 1 | 1 | 4 | 4 | 3 | 2 | 3 | 50000 | 3 | 2 | 5 | 2 | 3 | 2 | 4 | 4 | 4 |
| 1 | 2 | 2 | 5 | 4 | 2 | 1 | 60000 | 1 | 1 | 1 | 4 | 5 | 3 | 3 | 3 | 3 |
| 1 | 1 | 6 | 1 | 3 | 2 | 2 | 50000 | 3 | 2 | 5 | 1 | 2 | 4 | 4 | 3 | 4 |
| 2 | 2 | 6 | 4 | 6 | 1 | 3 | 500000 | 3 | 3 | 5 | 2 | 1 | 3 | 4 | 4 | 4 |
| 1 | 2 | 4 | 1 | 3 | 2 | 1 | 50000 | 3 | 2 | 1 | 2 | 3 | 2 | 3 | 3 | 3 |
| 2 | 2 | 6 | 3 | 4 | 1 | 1 | 100000 | 3 | 2 | 1 | 2 | 1 | 3 | 3 | 3 | 3 |
| 2 | 2 | 4 | 7 | 4 | 1 | 2 | 50000 | 3 | 1 | 5 | 2 | 2 | 3 | 2 | 3 | 4 |
| 2 | 2 | 4 | 4 | 2 | 2 | 12 | 20000 | 2 | 2 | 3 | 2 | 3 | 3 | 3 | 3 | 3 |
| 1 | 1 | 4 | 4 | 4 | 2 | 4 | 35000 | 2 | 2 | 1 | 3 | 2 | 3 | 3 | 4 | 4 |
| 1 | 1 | 4 | 4 | 4 | 2 | 4 | 30000 | 2 | 2 | 1 | 2 | 3 | 3 | 4 | 4 | 3 |
| 2 | 2 | 4 | 7 | 1 | 2 | 2 | 50000 | 1 | 1 | 3 | 2 | 5 | 3 | 4 | 4 | 4 |
| 2 | 2 | 4 | 7 | 1 | 2 | 3 | 50000 | 1 | 2 | 3 | 2 | 5 | 3 | 3 | 3 | 3 |
| 2 | 1 | 4 | 4 | 2 | 2 | 7 | 80000 | 3 | 2 | 3 | 2 | 2 | 3 | 3 | 3 | 3 |
| 1 | 1 | 4 | 1 | 3 | 2 | 6 | 20000 | 3 | 1 | 3 | 1 | 3 | 2 | 3 | 4 | 4 |
| 1 | 1 | 4 | 10 | 2 | 2 | 2 | 25000 | 3 | 1 | 3 | 2 | 3 | 3 | 4 | 4 | 4 |
| 2 | 1 | 3 | 8 | 1 | 1 | 7 | 100000 | 2 | 1 | 5 | 2 | 3 | 3 | 3 | 1 | 2 |
| 1 | 2 | 4 | 4 | 3 | 2 | 2 | 50000 | 1 | 2 | 5 | 2 | 2 | 3 | 4 | 3 | 3 |
| 1 | 2 | 4 | 4 | 5 | 2 | 1 | 80000 | 2 | 2 | 1 | 2 | 3 | 3 | 3 | 3 | 3 |
| 2 | 2 | 6 | 7 | 5 | 1 | 2 | 300000 | 3 | 3 | 2 | 3 | 2 | 3 | 4 | 3 | 3 |
| 2 | 2 | 7 | 7 | 4 | 1 | 2 | 200000 | 2 | 2 | 4 | 3 | 2 | 3 | 3 | 3 | 3 |
| 1 | 1 | 2 | 1 | 2 | 2 | 5 | 3000 | 1 | 1 | 2 | 1 | 1 | 1 | 1 | 1 | 1 |
| 1 | 1 | 4 | 2 | 3 | 2 | 6 | 4000 | 1 | 1 | 1 | 1 | 4 | 2 | 1 | 1 | 1 |
| 2 | 2 | 4 | 4 | 2 | 1 | 10 | 150000 | 3 | 2 | 2 | 1 | 2 | 3 | 4 | 4 | 4 |
| 2 | 2 | 7 | 8 | 1 | 2 | 3 | 100000 | 1 | 2 | 1 | 1 | 5 | 2 | 5 | 4 | 4 |
| 1 | 1 | 4 | 6 | 1 | 3 | 2 | 20000 | 3 | 1 | 1 | 1 | 3 | 4 | 3 | 3 | 2 |
| 2 | 2 | 6 | 10 | 1 | 1 | 10 | 1000000 | 3 | 2 | 3 | 1 | 3 | 2 | 3 | 3 | 3 |
1
library(psych)
1
attach(a)
decision 확인 표
| 변수명 | 설명 | 속성 | 보기1 | 보기2 | 보기3 |
|---|---|---|---|---|---|
| decision | 구매 동기 | 범주형 | 사회적 요인 | 심리적인 요인 | 외모적 요인 |
1
describeBy(satisf_al, group = decision) # 사회적 요인 = group: 1 , 심리적인 요인 = group: 2
1
2
3
4
5
6
7
8
9
10
11
12
Descriptive statistics by group
group: 1
vars n mean sd median trimmed mad min max range skew kurtosis se
X1 1 42 3.24 0.98 3 3.35 1.48 1 5 4 -0.77 0.31 0.15
------------------------------------------------------------
group: 2
vars n mean sd median trimmed mad min max range skew kurtosis se
X1 1 67 3.34 0.9 3 3.45 1.48 1 5 4 -0.96 1.2 0.11
------------------------------------------------------------
group: 3
vars n mean sd median trimmed mad min max range skew kurtosis se
X1 1 138 3.59 0.55 4 3.57 0 3 5 2 0.18 -1 0.05
- 외모적인 요인으로 많이 구매한다는 것을 알 수 있다.
1
result<-aov(satisf_al~factor(decision))
1
result
1
2
3
4
5
6
7
8
9
10
Call:
aov(formula = satisf_al ~ factor(decision))
Terms:
factor(decision) Residuals
Sum of Squares 5.20457 134.18005
Deg. of Freedom 2 244
Residual standard error: 0.7415647
Estimated effects may be unbalanced
1
summary(result)
1
2
3
4
5
Df Sum Sq Mean Sq F value Pr(>F)
factor(decision) 2 5.2 2.6023 4.732 0.00963 **
Residuals 244 134.2 0.5499
---
Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
- Tukey’s HSD(honestly significant difference) test는 studentized range distribution을 이용하여 모든 가능한 두 수준들의 평균간의 차이가 있는지를 검정(pairwise post-hoc testing using Tukey HSD test)하는 방법입니다.
1
2
- R에서 기본적으로 제공하는 사후 검증 기법은 Tukey HSD가 있다.
1
TukeyHSD(result)
1
2
3
4
5
6
7
8
9
10
Tukey multiple comparisons of means
95% family-wise confidence level
Fit: aov(formula = satisf_al ~ factor(decision))
$`factor(decision)`
diff lwr upr p adj
2-1 0.1051883 -0.23897424 0.4493509 0.7514634
3-1 0.3488613 0.04069543 0.6570271 0.0220153
3-2 0.2436729 -0.01670994 0.5040558 0.0720246
- 2-1 : 2번째 집단과 1번째 집단과의 차이 (diff)
- lwr : 하한값
- upr : 상한값
Tukey multiple comparisons of means 95% family-wise confidence level
Tukey’s HSD test 결과를 보면, “multiple comparisons of means, 95% family-wise confidence level’, 2개씩 쌍을 이룬 수준간 평균의 다중 비교를 95% 신뢰수준이라는 의미입니다.
- 위의 결과를 보면 ‘group 2’와 ‘group 1’은 평균 차이가 0.1051883 이고 P-value가 0.7514634로서 유의수준 0.05보다 크므로 귀무가설 ‘두 집단 간 평균차이는 없다’를 채택하게 됩니다.
1
install.packages("agricolae")
1
2
3
4
5
6
7
There is a binary version available but the source version is later:
binary source needs_compilation
agricolae 1.3-3 1.3-5 FALSE
installing the source package 'agricolae'
1
library(agricolae)
1
scheffe.test(result,"factor(decision)", alpha = 0.05, console = T)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
Study: result ~ "factor(decision)"
Scheffe Test for satisf_al
Mean Square Error : 0.5499182
factor(decision), means
satisf_al std r Min Max
1 3.238095 0.9830149 42 1 5
2 3.343284 0.8970024 67 1 5
3 3.586957 0.5500930 138 3 5
Alpha: 0.05 ; DF Error: 244
Critical Value of F: 3.032816
Groups according to probability of means differences and alpha level( 0.05 )
Means with the same letter are not significantly different.
satisf_al groups
3 3.586957 a
2 3.343284 ab
1 3.238095 b
1
duncan.test(result,"factor(decision)", alpha = 0.05, console = T)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
Study: result ~ "factor(decision)"
Duncan's new multiple range test
for satisf_al
Mean Square Error: 0.5499182
factor(decision), means
satisf_al std r Min Max
1 3.238095 0.9830149 42 1 5
2 3.343284 0.8970024 67 1 5
3 3.586957 0.5500930 138 3 5
Groups according to probability of means differences and alpha level( 0.05 )
Means with the same letter are not significantly different.
satisf_al groups
3 3.586957 a
2 3.343284 ab
1 3.238095 b
1
library(ggplot2)
1
2
3
4
5
Attaching package: 'ggplot2'
The following objects are masked from 'package:psych':
%+%, alpha
1
ggplot(a,aes(x=as.factor(decision), y=satisf_al)) + geom_boxplot(fill='blue', alpha=0.02)
1
ggplot(data=a, aes(x=satisf_al, group=decision, fill=decision))+geom_density(adjust=1.5)
Share on
Copy URL
Kakao
Facebook
Twitter
LinkedIn
Leave a comment