多変量解析(2) : 回帰分析(後半)と主成分分析

統計モデル解析特論I/II : 第05回 (11/02/21)

先週のショート課題＆アンケートから: 88名
- 【問い】今回は回帰分析について、この手法の成り立ちを中心に紹介した。ご自身の身の回りで利用できそうな場面はあるか? あるのであれば、その利用場面の説明と、「目的変数と説明変量の対」を挙げよ。 ===> 公開可とした回答は掲載済み＆参考にどうぞ
- 手書きの説明がとても分かり易い。
- フィードバックが遅れても良いので、課題の期限を延ばしてほしい。 ===> 48時間は確保しているので、厳守いただきたい。今回は「試し」に締め切り後の受付口を設けてみましょうか? (評価点は異なる)
- 回帰分析については学部時代に学んだが、改めて説明を受けて大変勉強になった。
- 乱数による密の表現方法。
- 多重共線性について、理解できなかった。 ===> 後述
- 最小二乗法のベクトル表記で、bに転置をつけていないのはミスではないか? ===> 的確なご指摘に感謝。式展開。
- 目的変数(体重)の測定誤差を考慮してy軸に平行に残差を取るのは理解できたが、説明変数(身長)側にも測定誤差が検討されるべきではないか? ===> 極めて鋭い指摘。身長と体重のデータに回帰分析を適用するのはやや乱暴と言える。本手法に適用するには説明変数は「ユーザーが指定できる変数」を意味し、温度や湿度、圧力等を想定している。この場合の目的変数は、収量や長さ等。説明変数は正確に指定できるという考えから。
[要約: 回帰分析] 解析する上での注意点
- 2変量以上の説明する変量(説明変量)で 1変量(目的変量)を説明したい
  - 説明される変量 : 目的変数、従属変数、dependent variable
  - 説明する変量 : 説明変数、独立変数、independent variable
- 関係性は直線＝線形を仮定する
- 回帰直線からのズレ(誤差)のことを回帰分析では「残差」と呼ぶ。
- 説明される変量(目的変量)と平行に残差を取る。なぜなら、指定された独立変数における測定誤差だから。
- 残差の分布は正規分布を仮定する
- 測定の場所によらず、残差は同一の分布であることを仮定する
- 残差の二乗和を最小にする(最小二乗法)
- 残差分析を行なおう
  - 残差に傾向はないか? :
    　　　一様性、バナナカーブ、ラッパ状、... ===> 残差プロット
  - 残差の正規性の確認 : Q-Q plot
- 外れ値に対して
  - 外れ値と思われるサンプルを検討する必要あり。場合によっては除外も。
    - 外れ値を持つ個体を除外する : 標準体型の者だけに、...
    - 対象集団を単質のものに絞る : 男性だけ、18歳だけ、...
    - ただし、恣意的な除外は謹むべきである。
  - 「外れ値」と「異常値」は区別して取り扱う・識別する : 「外れて」いても「異常」かどうかは別
    - 外れ値 : 大多数のデータから大きく離れた値
    - 異常値 : 通常ではあり得ない入力ミス等の異常な値
- 上記以外に「多重共線性(multi-colinearity)」の問題もある。逆行列が取れなくなる(ランク落ち)。数値計算上、解が求まったかのような振る舞いをするものの不安定な解。そのような場合は、組み込んでいる説明変数間の関係を見直す必要がある。
- また、本講義のQ3では取り扱わないが、変量数が多いデータを対象とした場合は、より影響力の大きい変量だけでモデルを構築する必要に迫られることも多い。そのような場合は「変数選択」の手法を用いると良い。一方、変量の組み合わせによって相関係数がどのように変化するかを観るために全組み合わせを順に発生させて振る舞いを眺める「総当たり法」を用いることもある。これらは実データを分析する際に試して欲しい。
- 「数値計算上の最適モデル」と「その分野の知識からの最適モデル」には違いがあることを知っておくこと。
  - 計算結果としてベターであっても、回帰式・モデルを理解する上で好ましいとは言えない場合も有り得る。
4つの尺度と回帰分析
- 比率尺度(ratio scale) : 長さ、重さ。間隔尺度に加えて絶対原点が存在。
- 間隔尺度(interval scale) : セ氏やカ氏で測定された温度。原点は任意。
- 名義尺度(nominal scale) : 性別、職業、支持政党。分類の項目。
- 順序尺度(ordinal scale) : 成績の優・良・可・不可。順序関係あり。「優と良の差」が「可と不可の差」に等しいわけではない。
- 量的データ : 間隔尺度、比率尺度。連続変量とも。
- 質的データ : 名義尺度、順序尺度。離散変量とも。
- 離散変量を回帰分析で用いるには注意が必要である。線形関係と言えるのか? 割り当てた値を変更したら影響力が変化する。
回帰分析にまつわる話題、誤用?!: 提示資料
- 構造がシンプルで理解し易い分、"変な"利用も散見される
- 内挿(観測点の内側)はまだしも、外挿(観測点の外側)を予測するのは難しい or 無謀。
- 予測範囲でデータの構造が一定という"条件"が必要。
- 線形で表現できる関係なのか? 線形の関係式が有効なのか? 非線型?
- 自分で判断できる能力を持つこと。疑うこと。
- [例1] 人間の成長曲線
- [例2] 将来のプログラマ必要数予測 : 21世紀(?)には国民全員がプログラマ ('80s)
- [例3] 将来予測：直線回帰（外挿）
  - オリンピック 100m 走の男女記録 : 2156年には女性の方が速い (2004.09.30) :
    Japan Journal LTD の記事 , 朝日新聞の記事
    　　　[究極の命題!] 100m に 0.00秒要する(!?)ようになるのは何時?
- [例4] 対応表（法科大学院適性試験）：相関
  - 2つの試験の換算表
- [例5] 就学援助率：相関係数、相関を取る対象
  - 親の所得と成績の関係
  - [参考1] 【全国学力テスト】就学援助率の影響薄く…鍵は学校の取組みや学習規律
  - [参考2] 日本の「全国学力テスト」は失敗…？専門家が指摘する“知られざる”実態 .
[話題:頭の体操] 得点調整
- 方法 :
  - 等百分位法 (分位点差縮小法)
    - 大学入試センター受験案内: 得点の調整 .
    - 林篤裕(2006)、大学入試センターにおける得点調整の方法(分位点差縮小法)(暫定版) . .
  - 偏差値化 : 魅力的なのか? 偏差値化が意味するもの: 提示資料
  - ...
  - 「中央値補正法」「標準得点方式」と言う手法もあるらしい。
    [例] 関西学院大学: 中央値補正法とは... .、科目別平均点の中央値補正前後比較 .
    [例] 関西大学: 各学部での合否判定の方法
- ところで「偏差値」って何?
  - 偏差値=(得点─平均点)/標準偏差*10+50
  - 平均50, 標準偏差10 の分布に変換したときの値
- 各手法の利点と欠点:
- 自分が受験者の立場ならどの手法を採用してほしいか? 調整なんか不要?
主成分分析
　いくつか(p個)の変量の値を情報の損失をできるだけ少なくして、少数変量(m個、m＜p)の総合的指標(主成分)で代表させる方法として主成分分析(Principal Component Analysis, PCA)と因子分析(Factor Analysis, FA)がある。いくつかのテストの成績を総合した総合的成績、いろいろな症状を総合した総合的な重症度、種々の財務指標に基づく企業の評価等を求めたいといった場合に用いられる。 p変量(p次元)の観測値をm個(m次元)の主成分に縮約させるという意味で、次元を減少させる(reduce)方法と言うこともでき、多変量データを要約する有力な方法である。
　両者は似た目的に使われるが、元になっている考え方は異なるので利用する場面では注意が必要である。違いにも焦点を当てながら説明する。

2変量の場合の主成分分析 : 理解を助けるため

定式化 :
- 変数 :
- 重み(係数) :
- 合成変量(線形結合) :
- 「よく代表する」ように、を決める。
- より広がって測定できる軸に沿うと情報量が多い。===> 広がり ===> 分散を最大に
  
  　　(制約条件 : の下で)
  
  なお、。
  
  ただし、の分散を、共分散をとする。
  [参考:立体の測定: イメージとして]
  - ノギスの使い方と寸法の読み取り方: 【通販モノタロウ】
  - ノギス :ウィキペディア（Wikipedia）
- 全測定値の分散を最大化する身長と体重()の総合指標を求めよう。
- 求まったベクトルを「軸」とか「主成分」と呼ぶ。
- p次元を何次元に縮約するかの軸数(主成分数)は利用者側が判断する必要がある。
  - 主成分の解釈
SASプログラム : PCA0501.sas

出力結果 : PCA0501-Results.txt, PCA0501_Output.pdf, PCA0501_Output.html

身長と体重の散布図
各変量の平均、標準偏差、分散共分散行列
固有値、比率(寄与率)、累積寄与率 : 解釈に使う
固有ベクトル(係数) : 解釈に使う
主成分得点 : 各個人の得点(z)、2つある
第1軸と第2軸の主成分得点の散布図

Sunday, October 31, 2021 05:00:50 PM 30 Plot of shintyou*taijyuu. Legend: A = 1 obs, B = 2 obs, etc. shintyou | | 190 + | | A | A A A | B A A A 180 + A A C C AAAB A | B A BA B A A | ABABA B C BAA AA | A B BA BAAB AA A A | AA AEA A DA 170 + A D CDCED BA A A A A | ADADAABB D | C BAABAAAAA | A C AA A B | A AA B A A A 160 + BCDA AA | AAAAB | A AABAA A | AA A | A A 150 + A | A | B | | 140 + | ---+------------+------------+------------+------------+-- 20 40 60 80 100 taijyuu Sunday, October 31, 2021 05:00:50 PM 31 The PRINCOMP Procedure Observations 199 Variables 2 Simple Statistics shintyou taijyuu Mean 168.8497487 60.44773869 StD 7.9248036 10.50548113 Covariance Matrix shintyou taijyuu shintyou 62.8025126 56.7763504 taijyuu 56.7763504 110.3651337 Total Variance 173.16764631 Eigenvalues of the Covariance Matrix Eigenvalue Difference Proportion Cumulative 1 148.139527 123.111408 0.8555 0.8555 2 25.028119 0.1445 1.0000 Sunday, October 31, 2021 05:00:50 PM 32 The PRINCOMP Procedure Eigenvectors Prin1 Prin2 shintyou 0.553923 0.832568 taijyuu 0.832568 -.553923 Sunday, October 31, 2021 05:00:51 PM 33 s h t k c i a j o a t n i k i d r s P P t j y t u r u r r O s y y o a k y u i i b e o u u k a e w n n s x u u i u i r a 1 2 1 F 145.5 42.0 76 自宅生 0 3700 -28.2930 -9.2216 2 F 146.7 41.0 85 自宅生 10000 Vodafone 6000 -28.4608 -7.6686 3 F 148.0 43.0 80 自宅生 50000 DoCoMo 4000 -26.0756 -7.6941 4 F 150.0 46.0 86 40000 . -22.4700 -7.6908 5 F 151.7 41.5 80 自宅生 35000 . -25.2749 -3.7827 6 F 152.0 35.0 77 自宅生 60000 DoCoMo 2000 -30.5204 0.0675 7 F 153.0 46.5 87 下宿生 10000 . -20.3920 -5.4700 8 F 153.0 55.0 78 自宅生 30000 . -13.3152 -10.1784 9 F 154.4 44.0 75 自宅生 9000 au 2000 -21.6979 -2.9196 10 F 155.0 48.0 83 下宿生 180000 . -18.0353 -4.6358 11 F 156.0 42.0 85 自宅生 0 DoCoMo 15000 -22.4768 -0.4797 12 F 156.0 46.0 82 自宅生 10000 Vodafone 7000 -19.1465 -2.6953 13 F 156.0 48.0 70 自宅生 30000 . -17.4814 -3.8032 14 F 156.0 49.0 85 自宅生 25000 . -16.6488 -4.3571 15 F 156.0 50.0 82 自宅生 40000 Vodafone 10000 -15.8162 -4.9110 Sunday, October 31, 2021 05:00:51 PM 34 Plot of Prin2*Prin1. Legend: A = 1 obs, B = 2 obs, etc. 20 + | | | | | | | | | | A| A | | A A 10 + | C | A A|AAAA AA | AA C A Prin2 | A A A A | B B A | B AA BA | B B AA | AA B CABB B| A B AAAA AA | A B A AB A CBBB A AA A AA 0 +---------A------A----AA---A--BA--A-A-DA---A--B-A----------------------- | A AACCA A A AB ABABBACA A A A | A A B B A A| B AA BBB A A A | A BAA A A A B A A A A | A A A | A A | A A A A A AA A A A | A | A -10 + A | A A | A | A | | A | | A | | A | | | | -20 + | --+----------------+----------------+----------------+----------------+- -40 -20 0 20 40 Prin1

解釈方法
- 寄与率(Proportion) : その軸がどの程度説明力を持っているか :
  - 第1軸だけで十分(85.6%)。第2軸に含まれる説明力は小さい(14.5%)。
- 固有ベクトル(Eigenvectors) : その軸の特徴を示している :
  - 身長と体重の重みはほぼ同等(0.6と0.8)だが、体重がやや大きめに効いている(第1軸)
- 主成分得点と散布図 : 各個人がどこに付置されているか
  - 第1軸 : 全体的な体格の指標。身長と体重を足したような指標。
  - ちなみに第2軸 : 全体的な体格の指標だが、体重が負に効く。
- 元の散布図が回転していることが判るであろうか?
  - 回転の中心点はそれぞれの変量の平均値。

3変量以上の主成分分析

定式化 :
- 2変量の時の考え方を拡張したもの(p変量)
- 合成変量(線形結合) :
- より広がって測定できる軸に沿うと情報量が多い。===> 広がり ===> 分散を最大に
  
  　　(制約条件 : の下で)
- 合成変量の分散を最大化する軸を決定する。
- よく代表するように、,… を決める。
身長、体重、胸囲での総合指標を求めてみよう :
SASプログラム : PCA0502.sas

出力結果 : PCA0502-Results.txt, PCA0502_Output.pdf, PCA0502_Output.html

各変量の平均、標準偏差、共分散行列
固有値、比率(寄与率)、累積寄与率
固有ベクトル
主成分得点
第1軸～第3軸の散布図

                                      Sunday, October 31, 2021 03:26:02 PM  59
The PRINCOMP Procedure

Observations         199
Variables              3

                    Simple Statistics
              shintyou           taijyuu             kyoui
Mean       168.8497487       60.44773869       86.34221106
StD          7.9248036       10.50548113        8.88626378

                      Covariance Matrix
                  shintyou           taijyuu             kyoui
shintyou        62.8025126        56.7763504        20.7993036
taijyuu         56.7763504       110.3651337        47.7707020
kyoui           20.7993036        47.7707020        78.9656840

Total Variance    252.13333029

            Eigenvalues of the Covariance Matrix
        Eigenvalue    Difference    Proportion    Cumulative
   1    175.540573    121.609468        0.6962        0.6962
   2     53.931105     31.269454        0.2139        0.9101
   3     22.661651                      0.0899        1.0000

                                      Sunday, October 31, 2021 03:26:02 PM  60
The PRINCOMP Procedure
                   Eigenvectors
                 Prin1         Prin2         Prin3
shintyou      0.464556      -.478107      0.745387
taijyuu       0.749904      -.235289      -.618290
kyoui         0.470991      0.846199      0.249230

                                      Sunday, October 31, 2021 03:26:03 PM  61
        s
        h     t                  k      c
        i     a         j        o      a       t
        n     i   k     i        d      r       s       P        P        P
        t     j   y     t        u      r       u       r        r        r
 O  s   y     y   o     a        k      y       u       i        i        i
 b  e   o     u   u     k        a      e       w       n        n        n
 s  x   u     u   i     u        i      r       a       1        2        3

  1 F 145.5 42.0 76 自宅生      0           3700 -29.5524   6.7527  -8.5761
  2 F 146.7 41.0 85 自宅生  10000 Vodafone  6000 -25.5059  14.0300  -4.8203
  3 F 148.0 43.0 80 自宅生  50000 DoCoMo    4000 -25.7571   8.7069  -6.3340
  4 F 150.0 46.0 86         40000              . -19.7523  12.1220  -5.2027
  5 F 151.7 41.5 80 自宅生  35000              . -25.1631   7.2908  -2.6487
  6 F 152.0 35.0 77 自宅生  60000 DoCoMo    2000 -31.3111   6.1382   0.8462
  7 F 153.0 46.5 87 下宿生  10000              . -17.5127  11.4163  -3.0265
  8 F 153.0 55.0 78 自宅生  30000              . -15.3775   1.8005 -10.5250
  9 F 154.4 44.0 75 自宅生   9000 au        2000 -24.3890   1.1807  -3.4280
 10 F 155.0 48.0 83 下宿生 180000              . -17.3427   6.7223  -3.4601
 11 F 156.0 42.0 85 自宅生      0 DoCoMo   15000 -20.4356   9.3483   1.4935
 12 F 156.0 46.0 82 自宅生  10000 Vodafone  7000 -18.8490   5.8686  -1.7273
 13 F 156.0 48.0 70 自宅生  30000              . -23.0011  -4.7564  -5.9547
 14 F 156.0 49.0 85 自宅生  25000              . -15.1863   7.7013  -2.8345
 15 F 156.0 50.0 82 自宅生  40000 Vodafone 10000 -15.8494   4.9274  -4.2005

                                      Sunday, October 31, 2021 03:26:03 PM  62
           Plot of Prin2*Prin1.  Legend: A = 1 obs, B = 2 obs, etc.
   20 +                            |
      |                            |             A
      |          A                 |  A    A        A
      |              A A           |                   A
      |          B   A  A A A  AB  | AA A                          A
      |      AA       AABCD A   BAB| AAAB     A      A
      |              AABAAABB DB  CAC E A  AAB AA A      A
    0 +-----------A----A--DA--BBBBC+BBD-ADCAA-AA-ABAA-------------------------
      |             A A      ABA  AC E D  DCBAA           AA
      |            A   A      A  BBAA BB AAA AA      A
Prin2 |               A     AA    BA    A    A
      |                       AA  A| A A A A
      |                    A       |
      |               A            |
  -20 +                            |
      |              A             |
      |                            |
      |                            |
      |                            |
      |                            |
      |                            |
  -40 +                            |
      |                            A
      |                            |
      |         A                  |
      |                            |
      |                            |
      |                            |
  -60 +                            |
      -+-------------+-------------+-------------+-------------+-------------+
      -40           -20            0            20            40            60
                                        Prin1

                                      Sunday, October 31, 2021 03:26:03 PM  63
           Plot of Prin3*Prin2.  Legend: A = 1 obs, B = 2 obs, etc.
Prin3 |                                                  |
      |                                                  |
   20 +                                                  |
      |                                                  |
      |                                                  |
      |                                                  |
      |                                                 A|
   10 +                                      A   A A B   |
      |                                       A    A BB  |
      |                                       ABB   B B A|AB   A
      |                                       A  A AC  CBBCA ABA
      |                                             BBACCDHEBD AA A  A
    0 +---------------------------------A---A--AAA-B---AAADGAAADC-B----A-A----
      |                                        A   B  BBCCCADBBADB     A
      |                          A                B A AEABBA BC AA  A  B
      |                                             AA AAA   A A  A  A
      |                                                  A    A A
  -10 +                                                  | A   A  A
      |                                                  |       A
      |   A                                        A     |
      |                                                  A
      |                                                  |
  -20 +                                                  |
      |        A                                         |
      |                                                  |
      |                                                  |
      |                                                  |
  -30 +                                                  |
      |                                                  |
      -+---------+---------+---------+---------+---------+---------+---------+
      -50       -40       -30       -20       -10        0        10        20
                                        Prin2

                                      Sunday, October 31, 2021 03:26:03 PM  64
           Plot of Prin3*Prin1.  Legend: A = 1 obs, B = 2 obs, etc.
Prin3 |                            |
      |                            |
   20 +                            |
      |                            |
      |                            |
      |                            |
      |                            |       A
   10 +                       A   A|   B      A
      |                            A AAA  B
      |                     A  A  DB AAA  AAA
      |             A  AA B AABA  AAA A BAA  BA
      |              A A AAAA DBBACBABD BBAA  AB  A    A
    0 +------A--------BA-ACBBAAB-BA+AAD-AA-C-CA--A----------------------------
      |          A   ABAABBA   AB D|ACACAAAA    A A       A
      |          AA  AABA B   A  B |ABAA ABAB    A  A    A
      |          A A A        A A  |A       A     A        A
      |       A                    |  A            A
  -10 +                 A       A  |                 A
      |                            |                               A
      |         A                  |                 A
      |                            |                A
      |                            |
  -20 +                            |
      |                            A
      |                            |
      |                            |
      |                            |
  -30 +                            |
      |                            |
      -+-------------+-------------+-------------+-------------+-------------+
      -40           -20            0            20            40            60
                                        Prin1

解釈方法
- 寄与率 : 2軸まで取れば十分のようだ(累積の項 91.0%)。
- 各軸の意味付け
  - 第1軸 : 全体的な体格の因子。特に体重が効いている。
  - 第2軸 : 太さの因子(?)。胸囲が正で大きく、身長が負。
  - ちなみに、第3軸 : 華奢さの因子(?)。無視しても良い軸であるが。(9.0%)。

相関行列を使う理由
- 変量によって測定単位が異なる
- 使う単位によって解析結果が異なる
- 分散の影響を受ける
- 各変量を標準化して用いる : 相関行列 <===> 分散共分散行列
1. 相関行列を用いて体格の総合指標を求めてみよう :
2. SASプログラム : PCA0503.sas
3. 出力結果 : PCA0503-Results.txt, PCA0503_Output.pdf, PCA0503_Output.html
  - 各変量の平均、標準偏差、相関行列
  - 固有値、比率(寄与率)、累積寄与率
  - 固有ベクトル
  - 主成分得点
  - 第1軸～第3軸の散布図
```
                                      Sunday, October 31, 2021 03:26:46 PM  77
The PRINCOMP Procedure

Observations         199
Variables              3

                    Simple Statistics
              shintyou           taijyuu             kyoui
Mean       168.8497487       60.44773869       86.34221106
StD          7.9248036       10.50548113        8.88626378

              Correlation Matrix
              shintyou      taijyuu       kyoui
shintyou        1.0000       0.6820      0.2954
taijyuu         0.6820       1.0000      0.5117
kyoui           0.2954       0.5117      1.0000

            Eigenvalues of the Correlation Matrix
        Eigenvalue    Difference    Proportion    Cumulative
   1    2.00917168    1.28938921        0.6697        0.6697
   2    0.71978247    0.44873662        0.2399        0.9097
   3    0.27104585                      0.0903        1.0000

                                      Sunday, October 31, 2021 03:26:46 PM  78
The PRINCOMP Procedure
                   Eigenvectors
                 Prin1         Prin2         Prin3
shintyou      0.581024      -.562895      0.587844
taijyuu       0.644596      -.122703      -.754613
kyoui         0.496898      0.817370      0.291546
```
4. 解釈方法
  - 寄与率 : 2軸まで取れば十分のようだ(累積の項 91.0%)。
  - 各軸の意味付け
    - 第1軸 : 全体的な体格の因子。
    - 第2軸 : 太さの因子。
  - [今回例では] 分散共分散行列を使ったときよりも第1軸の固有ベクトル同士が近い値になった。しかし、軸の解釈に違いはない。劇的に変化したら両者の違いが明確になって説得力を増したのであろうが、その点では残念である。このように近い値になった理由は、この例では 3変量のスケールや分散にそれほどの違いがないためと思われる。
  【参考】分散共分散行列と相関行列を使ったときの違いを見てみたければ、 shintyou のみを mm 単位で測定したと仮定して、 10倍したものをデータとして両者の出力を比較してみよ。
  - SASプログラム : PCA0504.sas
  - 出力結果 : PCA0504-Results.txt, PCA0504_Output.pdf, PCA0504_Output.html
主成分の数の決定基準
明確に決まっているわけではないが、以下のような基準が一般的に用いられている。また、結果の解釈の都合上、多少増減させることもある。
- 累積寄与率がある程度(例えば80%以上)以上大きくなること
- 固有値のギャップがある程度以上大きいこと
- 相関行列を用いている場合、固有値が 1以上
- ...
[ノウハウ] 軸の特性を把握するにはラインマーカーが重宝する。一つの軸内で大きい(もしくは小さい)固有ベクトルにマークすると、何がグルーピングされているかが理解し易くなる。ただ、今週の例示では3軸までしか出現しないので、ご利益は感じにくいとも思う。多変量(例えば以下の例題PCA/FA)になればその有効性が理解できるであろう。

[例題PCA] 食品の嗜好性を探ってみよう
100種類の食品(ごはん、お茶漬け、…、リンゴ、パイ缶)に対する性・年齢で分割した10グループの嗜好度調査のデータをMoodleに掲載しておく。グループ1から5は男性、グループ6から10は女性であり、その中の番号の小さい方から順に 15才以下、16～20才以下、21～30才以下、31～40才以下、41才以上の10群を構成している。また、測定尺度は「1: おらく食べる気がしない」、「2: もし強制されれば食べる」、…、「8: いつも食べたい」、「9: もっとも好きな食品に入る」までの9段階であり、各グループごとに尺度の平均値を取ったものが測定値として格納されている。

食品嗜好度調査データの説明文、データ : food.dat

相関行列を用いて総合指標を求めてみよう :
SASプログラム : PCA0505.sas

出力結果 : PCA0505-Results.txt, PCA0505_Output.pdf, PCA0505_Output.html
Sunday, October 31, 2021 03:28:00 PM 124 Obs X01 X02 X03 X04 X05 X06 X07 X08 X09 X10 1 7.69 7.31 7.47 7.76 7.87 7.51 7.24 7.70 7.91 7.95 2 6.59 5.56 6.21 6.04 5.81 6.64 6.11 6.53 6.44 6.64 3 4.55 4.18 4.36 4.25 4.53 4.60 3.66 4.04 3.68 4.43 4 6.78 6.11 6.30 5.98 5.56 6.37 6.29 5.43 5.32 5.28 5 6.47 6.24 6.02 5.42 5.88 6.00 5.60 4.60 5.40 5.95 6 6.96 6.81 6.91 6.48 6.23 7.09 7.27 7.13 6.86 7.36 7 6.57 5.70 5.89 5.16 5.30 6.07 5.56 4.50 4.92 5.33 8 7.32 6.95 6.02 4.98 4.88 6.82 6.40 5.53 5.61 5.33 9 6.51 6.15 5.51 4.68 4.16 5.17 4.81 4.70 4.86 3.82 10 6.86 6.05 5.85 6.14 6.75 6.71 5.39 5.42 6.03 6.59 Sunday, October 31, 2021 03:28:00 PM 125 The PRINCOMP Procedure Observations 100 Variables 10 Simple Statistics X01 X02 X03 X04 X05 Mean 6.038100000 5.784800000 5.947100000 5.669500000 5.640600000 StD 1.239147389 1.034139939 0.825972699 0.915395124 0.884228614 Simple Statistics X06 X07 X08 X09 X10 Mean 5.781300000 5.563900000 5.379400000 5.517400000 5.542100000 StD 1.294327683 1.182607883 1.121124814 1.016264322 1.130856737 Correlation Matrix X01 X02 X03 X04 X05 X01 M(-15) 1.0000 0.8708 0.5158 0.3701 0.1723 X02 M(16-20) 0.8708 1.0000 0.7588 0.6043 0.4021 X03 M(21-30) 0.5158 0.7588 1.0000 0.8524 0.7262 X04 M(31-40) 0.3701 0.6043 0.8524 1.0000 0.8742 X05 M(41-) 0.1723 0.4021 0.7262 0.8742 1.0000 X06 F(-15) 0.9384 0.8207 0.5164 0.3580 0.2077 X07 F(16-20) 0.8107 0.8381 0.6584 0.4875 0.3543 X08 F(21-30) 0.6161 0.7095 0.6990 0.6199 0.5235 X09 F(31-40) 0.5003 0.6470 0.7013 0.7207 0.7101 X10 F(41-) 0.3298 0.4569 0.5584 0.6321 0.7479 Sunday, October 31, 2021 03:28:00 PM 126 The PRINCOMP Procedure Correlation Matrix X06 X07 X08 X09 X10 X01 0.9384 0.8107 0.6161 0.5003 0.3298 X02 0.8207 0.8381 0.7095 0.6470 0.4569 X03 0.5164 0.6584 0.6990 0.7013 0.5584 X04 0.3580 0.4875 0.6199 0.7207 0.6321 X05 0.2077 0.3543 0.5235 0.7101 0.7479 X06 1.0000 0.8888 0.7465 0.6215 0.4932 X07 0.8888 1.0000 0.8949 0.7679 0.6415 X08 0.7465 0.8949 1.0000 0.8528 0.7741 X09 0.6215 0.7679 0.8528 1.0000 0.9112 X10 0.4932 0.6415 0.7741 0.9112 1.0000 Eigenvalues of the Correlation Matrix Eigenvalue Difference Proportion Cumulative 1 6.82795512 5.06608201 0.6828 0.6828 2 1.76187311 1.00742187 0.1762 0.8590 3 0.75445124 0.49207487 0.0754 0.9344 4 0.26237637 0.14082435 0.0262 0.9607 5 0.12155202 0.02358655 0.0122 0.9728 6 0.09796547 0.02586580 0.0098 0.9826 7 0.07209967 0.02801926 0.0072 0.9898 8 0.04408041 0.00832792 0.0044 0.9942 9 0.03575249 0.01385842 0.0036 0.9978 10 0.02189408 0.0022 1.0000 Sunday, October 31, 2021 03:28:00 PM 127 The PRINCOMP Procedure Eigenvectors Prin1 Prin2 Prin3 Prin4 Prin5 X01 M(-15) 0.286033 -.446335 0.193512 0.428019 0.162365 X02 M(16-20) 0.331337 -.239842 0.336063 0.022488 -.559594 X03 M(21-30) 0.323345 0.166337 0.442291 -.436029 -.168594 X04 M(31-40) 0.299329 0.358627 0.375366 0.063449 0.367912 X05 M(41-) 0.260727 0.507209 0.127419 0.375425 0.146879 X06 F(-15) 0.308635 -.407882 -.083695 0.267375 0.286866 X07 F(16-20) 0.344271 -.252697 -.171400 -.295655 -.025050 X08 F(21-30) 0.347877 -.032314 -.289087 -.507508 0.452377 X09 F(31-40) 0.345636 0.164368 -.322236 0.040012 -.388944 X10 F(41-) 0.303334 0.267273 -.522559 0.251270 -.190507 Eigenvectors Prin6 Prin7 Prin8 Prin9 Prin10 X01 -.016413 -.062138 -.038493 -.141617 0.668052 X02 -.212367 0.479465 0.283325 -.013739 -.225064 X03 0.476929 -.416354 0.136150 0.085922 0.163960 X04 -.562491 -.066245 -.114301 0.403713 -.068344 X05 0.385123 0.325310 -.167534 -.437833 -.148648 X06 0.209878 -.335058 0.176137 0.090538 -.618107 X07 0.137469 0.236104 -.762654 0.204382 -.046351 X08 -.128390 0.256135 0.382983 -.303270 0.106863 X09 -.387189 -.488821 -.161974 -.425188 -.030381 X10 0.181955 0.100632 0.270185 0.543107 0.229904 Sunday, October 31, 2021 03:28:00 PM 128 Obs X01 X02 X03 X04 X05 X06 X07 X08 X09 X10 Prin1 Prin2 1 7.69 7.31 7.47 7.76 7.87 7.51 7.24 7.70 7.91 7.95 5.88693 1.44204 2 6.59 5.56 6.21 6.04 5.81 6.64 6.11 6.53 6.44 6.64 1.65842 0.13686 3 4.55 4.18 4.36 4.25 4.53 4.60 3.66 4.04 3.68 4.43 -4.44537 -0.34692 4 6.78 6.11 6.30 5.98 5.56 6.37 6.29 5.43 5.32 5.28 0.72138 -0.63217 5 6.47 6.24 6.02 5.42 5.88 6.00 5.60 4.60 5.40 5.95 0.15339 -0.18363 6 6.96 6.81 6.91 6.48 6.23 7.09 7.27 7.13 6.86 7.36 3.65322 0.09908 7 6.57 5.70 5.89 5.16 5.30 6.07 5.56 4.50 4.92 5.33 -0.65902 -0.78995 8 7.32 6.95 6.02 4.98 4.88 6.82 6.40 5.53 5.61 5.33 0.76044 -1.96919 9 6.51 6.15 5.51 4.68 4.16 5.17 4.81 4.70 4.86 3.82 -1.96687 -1.71968 10 6.86 6.05 5.85 6.14 6.75 6.71 5.39 5.42 6.03 6.59 1.35649 0.51749 11 7.04 6.03 6.53 6.02 6.68 6.78 5.91 6.26 5.76 5.95 1.76317 0.15476 12 6.59 6.30 6.29 5.94 6.10 5.93 5.52 5.35 5.45 5.85 0.72383 0.14551 13 5.93 4.76 5.09 5.51 5.79 5.49 4.97 4.69 5.30 5.61 -1.20892 0.34668 14 7.00 6.31 6.82 6.26 5.26 6.69 6.27 5.94 5.78 5.26 1.42272 -0.75706 15 6.63 5.47 5.54 4.88 4.70 5.89 4.64 4.43 4.00 3.98 -2.13183 -1.49511 Obs Prin3 Prin4 Prin5 Prin6 Prin7 Prin8 Prin9 Prin10 1 -0.07682 0.40809 0.25348 -0.08404 0.00629 0.07518 -0.29432 0.07804 2 -0.90098 -0.05516 0.42231 -0.06712 -0.42537 0.15924 0.03126 0.21633 3 -0.55169 0.23782 0.37097 0.08301 0.22924 0.36927 0.13546 -0.13545 4 0.55357 -0.08449 0.21583 0.10836 -0.04069 -0.30130 0.23414 0.03747 5 0.21693 0.67993 -0.55569 0.43975 0.12407 -0.03449 0.20098 0.03292 6 -0.63902 -0.35301 -0.06665 0.08296 0.01967 0.09429 0.27099 0.10991 7 0.26301 0.42015 -0.16052 0.48267 -0.13359 -0.13508 0.28383 0.14238 8 0.06701 -0.04720 -0.60733 0.05720 0.07830 0.10980 -0.04606 0.07099 9 0.66740 -0.33431 -0.54215 -0.50605 -0.09164 0.28167 -0.34880 0.33721 10 -0.17674 1.31452 0.21057 0.17171 0.08563 0.18324 -0.13665 -0.09062 11 0.23456 0.33063 0.60092 0.58481 0.05801 0.16376 -0.43135 0.07070 12 0.49777 0.35538 -0.09548 0.21636 0.19362 0.18252 0.04441 0.14858 13 -0.53251 0.85212 0.41764 -0.06351 -0.06122 -0.26835 -0.02047 0.09838 14 0.71704 -0.53272 0.19744 -0.12540 -0.54510 0.00683 0.21138 0.12406 15 0.88751 0.23480 0.36191 0.24293 -0.09797 0.25997 0.00113 0.14547 Sunday, October 31, 2021 03:28:00 PM 129 Plot of Prin2*Prin1. Legend: A = 1 obs, B = 2 obs, etc. 4 + | | | | | | | | | | A A| | |A A 2 + A | A A A | A A A A | |A A A A Prin2 | A A A B| A A | A B AA A| A A | A A A A AA A A B | A A A A A | A A A A 0 +----------------------------------A----A+--A----A---A-----AA-------A--- | A A |A A A | A A A | A BA A | A A | A B AA | A | A A | A | A A A | A A A | A A -2 + A A A| A | A | A A | A | | | A | | | | | A | -4 + | -+---------+---------+---------+---------+---------+---------+---------+ -8 -6 -4 -2 0 2 4 6 Prin1 Sunday, October 31, 2021 03:28:00 PM 130 Plot of Prin3*Prin2. Legend: A = 1 obs, B = 2 obs, etc. Prin3 | | | | 3 + | | | A | | | | A | A | A 2 + | A | | A | | A | | AA | A | 1 + | AA | AA AAA | | A A A | A | A A |A A | A A A A AA BBA AA A A AA A A 0 +-------------------AA-A-A-A-------------+-------------A---------------- | A A AAA | A AA A | A A A A A A A AA | A A B |B A A A A B A | B A | A A A -1 + A AAA B A A | | | | A A A | | AA | | -2 + | | | -+---------+---------+---------+---------+---------+---------+---------+ -4 -3 -2 -1 0 1 2 3 Prin2 Sunday, October 31, 2021 03:28:00 PM 131 Plot of Prin1*Prin3. Legend: A = 1 obs, B = 2 obs, etc. Prin1 | | | | 7.5 + | | | | | | A A| 5.0 + A A | | A A | A A | A | A | A A 2.5 + A A A | AAA A | B A A A A A A A | A A AB | AB B | A A A A AA AA AA A 0.0 +---------A----A-A--AAA---A-A+--BA-------------A------------------------ | A A | A A | A A | A A | A A | A A A A A -2.5 + A A A A C A | B A | AA | A A | BA | | A | -5.0 + | A | A A | A | | | | A -7.5 + | | | -+-------------+-------------+-------------+-------------+-------------+ -2 -1 0 1 2 3 Prin3-->

解釈方法
- 寄与率 : 2軸まで取れば十分のようではある(累積の項 85.9%)。
- しかし、固有値の変化量からすると、3軸でも良さそう : 3と4の間が空いてるから
- 主成分の数を3として意味付けを考えてみよう
- 各軸の意味付け: 参考までに食品番号でプロットしてみると。
  - 第1軸 : 全体的な嗜好度合い。
  - 第2軸 : 年齢による嗜好度合い(若いとマイナス)。
  - 第3軸 : 性別による嗜好度合い(男性だとプラス)。

次回は、... : 11月9日リモート講義(16:20-17:50?)
- 多変量解析(3) : 因子分析