RADIOLOGY GLOSSARY
過学習(Overfitting)
IN ONE LINE
一言でいうと
学習データの偶然の変動や固有の特徴まで適合し、未知データへの一般化性能が低下する状態です。
BEGINNER GUIDE
はじめて学ぶ方へ
練習したデータにはよく合っても、新しいデータでうまく働かない状態です。
身近なイメージ
同じ指標の誤分類率が、訓練1%、独立した同集団のテスト20%だった仮想例です。 一般化の低下を疑う19ポイント差です。この差だけで過学習の唯一の原因や臨床安全性を確定しません。
そもそも過学習とは?
練習したデータにはよく合っても、新しいデータでうまく働かない状態です。
未知データへの一般化。/複雑さと雑音。/独立評価と正則化。
定義・しくみ
学習データの偶然の変動や固有の特徴まで適合し、未知データへの一般化性能が低下する状態です。訓練成績が高いことだけで診断するのではなく、適切な独立評価や学習曲線などで検討します。
FORMULA
百分率の差と相対変化率を区別します。
異なる集団や異なる指標の値を単純に差し引きません。
具体例で確認
同じ指標の誤分類率が、訓練1%、独立した同集団のテスト20%だった仮想例です。
誤分類率の差 = 20%−1% = 19パーセントポイント
一般化の低下を疑う19ポイント差です。この差だけで過学習の唯一の原因や臨床安全性を確定しません。
専門的にもう一歩
モデルの複雑さと情報量、雑音、調整回数等が関係します。正則化や適切なモデル選択等を検討しますが、成績差はデータの分布差やリーク等でも変わるため原因を切り分けます。調整に使った検証スコアは独立した最終成績ではなく、テスト集合を見て選択を繰り返すことも評価を楽観化します。
臨床・測定での確認点
- 訓練と評価の独立性を確認します。
- 学習曲線とモデル選択の過程を記録します。
- 分布差やラベル品質も調べます。
覚えるポイント
- 未知データへの一般化。
- 複雑さと雑音。
- 独立評価と正則化。
間違えやすい点
- 訓練正解率が高ければ必ず過学習とは限りません。
- 深層学習だけの現象ではありません。
- テストで最良のモデルを選んだスコアを独立評価としません。