什麼是統計學習？

十章方法一次看懂：這門課到底在教什麼 講義 01 · p.9–11

這門課有十個主題，但它們不是十件無關的事。全部可以放進一張表： 你手上有沒有想預測的 y？y 是數字還是類別？你要的是準確度還是可解釋性？ 答案決定你該翻到哪一章。

下面這張地圖就是這門課的全貌。按條件過濾，看剩下哪幾章—— 每張卡片都直接連到那一章的頁面。現在還看不懂卡片上的名詞完全沒問題， 這一節的目的只是讓你知道「這門課會給你哪些工具、什麼時候該拿哪一把」。

有沒有 y：監督式與非監督式的分界 ISLP §1.1講義 01 · p.23–27

整門課最大的分水嶺只有一個問題：你手上有沒有「答案」？

監督式學習（supervised learning）：每一筆資料都有一個 你想預測的目標值 y。薪資、股價漲跌、房價、腫瘤是否為惡性——這些都有明確的答案， 可以拿去對照模型猜得對不對。第 2 到 9 章全部是監督式。

非監督式學習（unsupervised learning）：只有 X，沒有 y。 你不是要預測什麼，而是想知道「這堆資料裡有什麼結構」。 哪些顧客是同一群？6830 個基因能不能壓成 2 個維度來看？ 第 12 章講這個。

輸出是數字還是類別：迴歸與分類 ISLP §1.1講義 01 · p.33

確定是監督式之後，第二個問題：y 是數字還是類別？

• 迴歸（regression）：y 是連續數值。薪資、房價、mpg、租借量。 誤差用 MSE 這類「差多少」的量來衡量。
• 分類（classification）：y 是類別。漲/跌、良性/惡性、 14 種癌症型別。誤差用「錯幾個」的錯誤率來衡量。

大部分方法都有迴歸版與分類版（迴歸樹／分類樹、線性迴歸／邏輯斯迴歸）， 背後的想法一樣，只是把「差多少」換成「錯幾個」。

你要的是準還是懂：預測與推論 ISLP §2.1.1講義 01 · p.24

第三個問題最容易被忽略，但它直接決定你該選什麼模型： 你要的是「猜得準」還是「看懂關係」？

預測（prediction）：只在乎 $\hat y$ 準不準， $\hat f$ 內部長什麼樣完全不重要——它可以是一座 500 棵樹的森林。

推論（inference）：想知道哪些 X 影響 y、影響多大、 往哪個方向、這個影響可不可信。這時 $\hat f$ 必須看得懂， 而且你需要標準誤與 p 值。

n、p 與矩陣寫法：先把符號講清楚 ISLP §1.2

後面每一章都會用到這套符號，先講清楚省得後面卡住。

• n：觀測值（樣本）的個數，也就是資料表的列數。
• p：預測變數（特徵）的個數，也就是資料表的行數（不含 y）。
• $x_{ij}$：第 i 個觀測值的第 j 個變數，i = 1…n，j = 1…p。
• $\mathbf{X}$：n × p 的矩陣。$x_i$（下標一個數）是第 i 列， 長度 p 的向量；$\mathbf{x}_j$（粗體）是第 j 行，長度 n 的向量。
• $y_i$：第 i 個觀測值的目標值；$y$ 是長度 n 的向量。

課本三大資料集：Wage、Smarket、NCI60 ISLP §1.1講義 01 · p.34–38

ISLP 第 1 章用三份資料介紹三類問題。這三份會在後面的章節反覆出現， 現在先認識它們。

Wage：迴歸問題

美國大西洋中部地區 3000 位男性的薪資與人口特徵。y 是 wage（連續數值）， 所以這是迴歸。ISLP 圖 1.1 畫了三件事：薪資對年齡是先升後降的曲線 （不是直線）、對年份幾乎是緩慢的線性上升、對教育程度是 單調但不等距的階梯。

((3000, 11),
 Index(['year', 'age', 'maritl', 'race', 'education', 'region', 'jobclass',
        'health', 'health_ins', 'logwage', 'wage'],
       dtype='object'))

np.float64(111.15999687022256)

Smarket：分類問題

2001–2005 年 S&P 500 的每日報酬。y 是 Direction（Up / Down）， 所以是分類。ISLP 圖 1.2 的重點很反直覺：前幾天的報酬（Lag1–Lag5） 在漲日與跌日上的分佈幾乎一樣——也就是說，這件事非常難預測。

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 1250 entries, 0 to 1249
Data columns (total 9 columns):
 #   Column     Non-Null Count  Dtype   
---  ------     --------------  -----   
 0   Year       1250 non-null   int64   
 1   Lag1       1250 non-null   float64 
 2   Lag2       1250 non-null   float64 
 3   Lag3       1250 non-null   float64 
 4   Lag4       1250 non-null   float64 
 5   Lag5       1250 non-null   float64 
 6   Volume     1250 non-null   float64 
 7   Today      1250 non-null   float64 
 8   Direction  1250 non-null   category
dtypes: category(1), float64(7), int64(1)
memory usage: 79.6 KB

NCI60：非監督式問題

64 個癌症細胞株、每個測 6830 個基因的表現量。沒有 y—— 我們不是要預測什麼，而是想知道「這 64 個樣本會不會自己分成幾群」。 ISLP 圖 1.4 把 6830 維壓到 2 維（第 12 章的主成分分析）， 結果同一種癌症的樣本確實傾向靠在一起。

dict_keys(['data', 'labels'])

統計學習、機器學習、資料科學差在哪？ 講義 01 · p.19–22

「統計學習」、「機器學習」、「資料科學」、「人工智慧」——這些詞常常混用， 但它們的重心確實不同。講義第 19–22 頁討論了這件事。

但這些界線在實務上非常模糊，而且愈來愈模糊。同一個隨機森林， 統計學家與機器學習研究者都在用，只是他們問的問題不同： 前者會問「變數重要度可不可信、能不能給信賴區間」， 後者會問「加到 1000 棵樹還會不會更準」。

動手前的準備：Python 生態與 lab 導覽 講義 01 · p.6–7、41

本課的程式全部用 Python。你需要的套件不多，而且每一章的 lab 開頭都會列出來。

動手驗證：概念自測 ISLP Ch.1

ISLP 第 1 章沒有課後習題，所以這幾題是照本章觀念設計的。先自己想過再點選項； 每個選項——包含錯的——都寫了為什麼。第 2 章開始就有課本習題可以對答案了。

統計學習導論速查表 ISLP Ch.1

這一頁沒有公式要背，但這四個分類問題會決定你之後每次遇到新問題時該翻哪一章。

四個問題決定你翻哪一章

符號速查

三份資料的形狀

本頁「預期輸出」逐字取自課程 lab notebook（老師在課程環境實跑）；圖表用的烘焙資料由 tools/frames/ 在固定種子下產生，環境為 numpy 1.24.4 · pandas 2.3.2 · scikit-learn 1.6.1 · scipy 1.13.1 · statsmodels 0.14.2 · ISLP 0.4.0 · pygam 0.10.1。每張卡下方的「來源」標了 lab 的儲存格編號，可以直接回去對。

關鍵詞彙卡：點卡片翻面 課程題庫 · 23 張

詞彙卡取自本章講義與 ISLP 第 1 章，正面是中文術語（附英文原名）。 先看正面、心裡默想定義，再翻面對答案；洗牌後再過一輪，直到每張都能不看答案講出來。