回帰分析(後編)

データサイエンス : 第6回 (11/05/20)

　前回は構造がシンプルな単回帰分析を例に、この分析方法の考え方や残差の取り方、および、なぜそのように取る必要があるか等を説明した。今回は、より実用場面で登場する重回帰分析まで拡張し、分析の進め方や利用時の注意点を含めて紹介する。いろいろな場面での応用が可能な手法なので、大いに利用していただきたい。

先週のショート課題から: 11名
- 外れ値に対する対処方法 : 後述
- 残差に関する分析の結論
- summary(RresultHW)の見方
重回帰分析 : 別ページに掲載
[要約: 回帰分析] 解析する上での注意点
- 2変量以上の説明する変量(説明変量)で 1変量(目的変量)を説明したい
  - 説明される変量 : 目的変数、従属変数、dependent variable
  - 説明する変量 : 説明変数、独立変数、independent variable
- 関係性は直線＝線形を仮定する
- 回帰直線からのズレ(誤差)のことを回帰分析では「残差」と呼ぶ。
- 説明される変量(目的変量)と平行に残差を取る。なぜなら、指定された独立変数における測定誤差だから。
- 残差の分布は正規分布を仮定する
- 測定の場所によらず、残差は同一の分布であることを仮定する
- 残差の二乗和を最小にする(最小二乗法)
- 残差分析を行なおう
  - 残差に傾向はないか? :
    　　　一様性、バナナカーブ、ラッパ状、... ===> 残差プロット
  - 残差の正規性の確認 : Q-Q plot
- 外れ値に対して
  - 外れ値と思われるサンプルを検討する必要あり。場合によっては除外も。
    - 外れ値を持つ個体を除外する : 標準体型の者だけに、...
    - 対象集団を単質のものに絞る : 男性だけ、18歳だけ、...
    - ただし、恣意的な除外は謹むべきである。
  - 「外れ値」と「異常値」は区別して取り扱う・識別する : 「外れて」いても「異常」かどうかは別
    - 外れ値 : 大多数のデータから大きく離れた値
    - 異常値 : 通常ではあり得ない入力ミス等の異常な値
- 上記以外に「多重共線性(multi-colinearity)」の問題もある。逆行列が取れなくなる(ランク落ち)。不安定な解。そのような場合は、組み込んでいる説明変数間の関係を見直す必要がある。
- また、本講義では取り扱わないが、変量数が多いデータを対象とした場合は、より影響力の大きい変量だけでモデルを構築する必要に迫られることも多い。そのような場合は「変数選択」の手法を用いると良い。一方、変量の組み合わせによって相関係数がどのように変化するかを観るために全組み合わせを順に発生させて振る舞いを眺める「総当たり法」を用いることもある。これらは実データを分析する際に試して欲しい。
- 「数値計算上の最適モデル」と「その分野の知識からの最適モデル」には違いがあることを知っておくこと。
  - 計算結果としてベターであっても、回帰式・モデルを理解する上で好ましいとは言えない場合も有り得る。
4つの尺度と回帰分析
- 比率尺度(ratio scale) : 長さ、重さ。間隔尺度に加えて絶対原点が存在。
- 間隔尺度(interval scale) : セ氏やカ氏で測定された温度。原点は任意。
- 名義尺度(nominal scale) : 性別、職業、支持政党。分類の項目。
- 順序尺度(ordinal scale) : 成績の優・良・可・不可。順序関係あり。「優と良の差」が「可と不可の差」に等しいわけではない。
- 量的データ : 間隔尺度、比率尺度。連続変量とも。
- 質的データ : 名義尺度、順序尺度。離散変量とも。
- 離散変量を回帰分析で用いるには注意が必要である。線形関係と言えるのか? 割り当てた値を変更したら影響力が変化する。
誤用?! 提示資料
- 構造がシンプルで理解し易い分、"変な"利用も散見される
- 内挿(観測点の内側)はまだしも、外挿(観測点の外側)を予測するのは難しい or 無謀。
- 予測範囲でデータの構造が一定という"条件"が必要。
- 線形で表現できる関係なのか? 線形の関係式が有効なのか? 非線型?
- 自分で判断できる能力を持つこと。疑うこと。
　[例1] 人間の成長曲線
　[例2] 将来のプログラマ必要数予測 : 21世紀(?)には国民全員がプログラマ ('80s)
　[例3] 将来予測：直線回帰（外挿）
　　　オリンピック 100m 走の男女記録 : 2156年には女性の方が速い (2004.09.30) :
　　　　　　　 Japan Journal LTD の記事 , 朝日新聞の記事
　　　　　[究極の命題!] 100m に 0.00秒要する(!?)ようになるのは何時?
次回は、... : 11月12日リモート講義(10:30-12:00?)
- 主成分分析
- ...

◎ショート課題＆アンケート(第6回)
【ショート課題】
2.6節に掲載した[演習1]を行って報告せよ。余力があるのなら、[演習2]等も合わせ報告せよ。

【アンケート】
a. 疑問や何か気付いたことがあればお知らせください。

【期日】11月09日(月) 早朝まで (それ以降は受け付けなくなるので要注意)

【提出について】単位取得を考えている者は期日までに何らかのものを提出すること。(前回同様、2時間頑張ったところまでで可。)