從樣本推論母體
統計先備知識

統計附錄,選讀、不列入評分。正課需要時再查閱,不必先讀完。
觀察|機率模型|抽樣變動|推論
向下捲動開始互動↓
📌 本頁使用方式(先備 · S4 統計)

① 依序閱讀:每節先讀說明;遇到互動元件時,先預測結果,再操作驗證。 ② 對照來源與算例:先算過本頁例子,再操作互動。計算細節、完整實作與證明預設收合,可按需要展開;各節附 Seeing Theory 網站與講義連結供對照。 ③ 檢查理解:答錯時先看回饋,再回到相關說明;標為延伸的內容可留待第二輪。 ④ 最後翻關鍵詞彙卡自測術語,並用 重點速查與來源查閱。

統計入門參考:Seeing Theory。章節旁的來源標記可點到本頁書目。

CONTENTS · 內容目錄
PART 01 · 點估計與偏差

點估計與偏差 統計入門參考 · 第 4 章

統計推論從一個很實際的困難開始:你想知道整個母體的特徵,卻只能觀察其中一小部分。 例如,一間飲料店想知道所有顧客平均要等幾分鐘,不可能永遠追蹤每一位顧客,於是先抽一批人記錄等候時間。

參數(parameter)是母體中固定但未知的數,例如真正的平均等候時間 $\mu$。 統計量(statistic)是從樣本算出的數,例如樣本平均 $\bar X$。 用來猜參數的統計量稱為估計量(estimator);看到資料後得到的具體數字叫估計值(estimate)。

$$\bar X=\frac{1}{n}\sum_{i=1}^n X_i$$

估計量的偏差(bias)看的是反覆抽樣後的平均位置:

$$\operatorname{Bias}(\hat\theta)=E(\hat\theta)-\theta。$$

若偏差為 0,估計量稱為不偏。舉例來說,若 $X_1,\ldots,X_n$ 來自同一母體且 $E(X_i)=\mu$,則 $E(\bar X)=\mu$,所以樣本平均是不偏估計量。 不偏是長期平均的性質;某一次算出的 13 仍可能離真正的 $\mu$ 很遠。

先分清楚固定與會變的東西 母體平均 $μ$ 在這個問題裡是一個固定值,只是我們不知道它。若反覆抽不同樣本,每次的 $X̄$ 都可能不同;推論就是利用這種抽樣變動,描述估計值離參數可能有多遠。

算一次:五位顧客的平均等候時間

樣本是 12、15、11、14、13 分鐘,$n=5$。樣本平均為

$$\bar x=\frac{12+15+11+14+13}{5}=13\text{ 分鐘}。$$

這個 13 是對 $\mu$ 的點估計。它不保證等於母體平均,也沒有單獨告訴你估計有多穩;下一節用標準誤補上這項資訊。

觀念釐清
Q:樣本平均 13 分鐘,是否表示母體平均就是 13?

不能這樣斷定。13 是這一次樣本提供的估計值。換一批顧客,樣本平均通常會改變;我們需要標準誤或區間來描述這種不確定性。

QUIZ · 參數與估計量

某校想估計全校學生每天的平均睡眠時數,隨機抽 100 人算出平均 6.7 小時。哪個配對正確?

(A) 6.7 是固定參數;$μ$ 會隨每次抽樣改變
(B) 100 是估計量;6.7 是母體大小
(C) $μ$ 是全校真正平均;6.7 是這次樣本給的估計值

Seeing Theory 網頁 · Point Estimation:現行網頁的 Point Estimation 用抽樣估計未知參數;本節改用等候時間重新說明。 開啟原始來源

PART 02 · 標準差與標準誤

標準差與標準誤 統計入門參考 · 第 4 章

估計值會因樣本而變。若能從同一母體反覆抽取大小相同的樣本,每次都算 $\bar X$, 這些樣本平均會形成一個抽樣分佈(sampling distribution)。它的標準差就是樣本平均的 標準誤(standard error, SE)。

若觀測來自同一母體、彼此獨立,而且母體有有限變異數 $\sigma^2$,則

$$\operatorname{SE}(\bar X)=\frac{\sigma}{\sqrt n}。$$

這個等式不要求母體是常態分佈,也不要求研究者事先知道 $\sigma$。 若 $\sigma$ 未知,常用樣本標準差 $s$ 代替,得到估計標準誤 $s/\sqrt n$。

標準差與標準誤回答不同問題 標準差描述同一批個別觀測彼此有多分散;標準誤描述換一批樣本後,估計量會變動多少。樣本數增為四倍,平均的標準誤才會減半。

算一次:增加樣本如何提高精準度

假設母體標準差已知為 $\sigma=10$。抽 $n=25$ 人時,

$$\operatorname{SE}(\bar X)=\frac{10}{\sqrt{25}}=2。$$

若想把標準誤降到 1,需要 $n=100$,因為 $10/\sqrt{100}=1$。 這只表示樣本平均更穩定;個別觀測的標準差仍是 10。

數量描述誰的變動這個例子的值
母體標準差 $σ$個別觀測10
$SE(X̄)$,$n=25$不同樣本的平均2
$SE(X̄)$,$n=100$不同樣本的平均1
QUIZ · 標準誤

其他條件相同,樣本數從 25 增加到 100,樣本平均的標準誤會怎樣?

(A) 變成原來的四分之一
(B) 變成原來的一半
(C) 不變,因為母體標準差沒有變

Seeing Theory PDF · pp. 41–42:PDF 的 Frequentist Inference 起始段用中央極限定理說明標準化樣本平均;本節把其中的 $σ/√n$ 抽樣尺度獨立拆開,並補上有限變異與未知 σ 的條件。 開啟原始來源

PART 03 · 信賴區間

信賴區間 統計入門參考 · 第 4 章

點估計給一個數,信賴區間(confidence interval)則用「估計值 ± 誤差範圍」表達程序的不確定性。 先看條件最單純的情況:$X_1,\ldots,X_n$ 獨立來自常態母體,母體標準差 $\sigma$ 已知。

$$\bar X\pm z_{1-\alpha/2}\frac{\sigma}{\sqrt n}$$
95% 說的是長期涵蓋率 若一再用同一套抽樣與建立區間的程序,長期約 95% 的區間會涵蓋固定的真實平均數。區間算出後,端點與母體參數都已固定;不能再說這一條區間有 95% 機率包含它。
›尚未抽樣;真實平均固定為 50。
模擬示意
累計結果
涵蓋0
總數0
觀察涵蓋率—
顏色怎麼讀
藍線涵蓋固定真值 50;紅線漏掉真值。每一批新增 20 條,畫面保留最近 20 條,右側則累計到重置為止。
模型條件
元件刻意使用常態母體且已知 σ = 10,所以 z 區間的涵蓋率有明確基準。真實資料若 σ 未知,常改用 t 區間。
觀念釐清
Q:99% 區間一定比 90% 好嗎?

99% 的長期涵蓋率較高,但同一份資料下區間也較寬。你得到較高的涵蓋保障,同時失去一些精準度。信心水準要在看資料前依用途決定。

QUIZ · 信賴區間

已算出一條 95% 信賴區間 [48.08, 55.92]。哪句解讀符合頻率學派?

(A) 真實平均有 95% 機率落在 48.08 到 55.92
(B) 同樣程序反覆抽樣並建立區間,長期約 95% 的區間會涵蓋真實平均
(C) 95% 的觀測值會落在這個區間

Seeing Theory 網頁 · Confidence Interval:現行網頁有反覆產生信賴區間的視覺;本頁改成已知 σ 的常態模型,並明示有限次涵蓋計數。 開啟原始來源

延伸:未知標準差的 t 區間與推導

母體標準差未知:t 區間

若 $X_1,\ldots,X_n$ 獨立來自常態母體,而 σ 未知,改以樣本標準差 s 估計。 當 $n\ge2$、$s>0$,使用 $n-1$ 個自由度的 t 臨界值:

$$T=\frac{\bar X-\mu}{S/\sqrt n}\sim t_{n-1},\qquad \bar x\pm t_{n-1,1-\alpha/2}\frac{s}{\sqrt n}.$$

這裡 $t_{\nu,q}$ 是自由度 ν 的 t 分布之 q 分位數。t 分布比標準常態有較厚的尾部,反映估計 σ 的額外不確定性。 例如 $n=10,\bar x=20,s=3$,95% 區間以 $t_{9,0.975}\approx2.262$ 計算,為 $20\pm2.146$,即約 [17.854,22.146]。

常態抽樣給出精確的 t 分布。母體非常態時,大樣本下可能適用近似,但小樣本、重尾或相依資料不能只靠換成 t 臨界值解決。 迴歸係數的 t 區間使用同樣的「估計值 ± 臨界值 × 標準誤」,自由度由模型剩餘自由度決定。

延伸銜接:ISLP §3.1.2 的 t 統計量與迴歸區間;此處的一樣本 t 區間是本站先備補充,並非 Seeing Theory PDF 的新增原文。

證明:t 區間的涵蓋機率

常態樣本下,$Z=(\bar X-\mu)/(\sigma/\sqrt n)\sim N(0,1)$, $U=(n-1)S^2/\sigma^2\sim\chi^2_{n-1}$,且 Z 與 U 獨立。 因此 $Z/\sqrt{U/(n-1)}=(\bar X-\mu)/(S/\sqrt n)$ 服從 t 分布。 從 $P(-t_{n-1,1-\alpha/2}\le T\le t_{n-1,1-\alpha/2})=1-\alpha$ 解出 μ 的範圍,即得上式。

PART 04 · 假設檢定與 p 值

假設檢定與 p 值 統計入門參考 · 第 4 章

假設檢定(hypothesis test)把問題改寫成兩個互斥的主張。虛無假設 $H_0$ 是用來計算參考分佈的基準;對立假設 $H_A$ 是資料若夠不尋常時所支持的方向。

在已知 $\sigma$ 的常態平均數問題中,檢定 $H_0:\mu=\mu_0$ 可用

$$z=\frac{\bar x-\mu_0}{\sigma/\sqrt n}。$$

p 值(p-value)是在 $H_0$ 成立的前提下,得到目前這麼極端或更極端結果的機率。 它不是 $H_0$ 為真的機率,也不是「結果純屬偶然」的機率。

用圖看單尾與雙尾

完整算例:單尾與雙尾的 p 值

令 $H_0:\mu=50$,已知 $\sigma=10$,$n=25$,觀察到 $\bar x=54.4$,則 $z=(54.4-50)/(10/5)=2.20$。若 $H_A:\mu>50$,右尾 p 值約為 0.0139; 若 $H_A:\mu\ne50$,雙尾 p 值約為 0.0278。

›拖動樣本平均,觀察 z 與尾端面積如何一起改變。
概念示意
目前檢定
標準誤—
z 統計量—
p 值—
陰影怎麼讀
橘色面積是在虛無假設成立時,標準常態曲線上與目前 z 一樣極端或更極端的區域。雙尾會把兩側都算入。
何時能用
這裡是已知 σ = 10 的 z 檢定,且假設觀測獨立、母體常態。若 σ 未知,通常使用 t 檢定並檢查其條件。
結論只到證據強度 若事先設定 $α=0.05$,上例兩種 p 值都小於 0.05,因此拒絕 $H_0$。若 p 值不小,結論是「未能拒絕 $H_0$」;資料可能不足,不能宣稱已證明 $H_0$。
QUIZ · p 值

某檢定得到 p = 0.03。哪個說法正確?

(A) 若 $H_0$ 成立,目前這麼極端或更極端的結果出現機率是 3%
(B) $H_0$ 為真的機率是 3%
(C) 這項研究有 97% 機率得到正確結論

Seeing Theory PDF · pp. 43–48:PDF pp. 43–48 說明檢定、拒絕域與 p 值;現行網頁的 Frequentist Inference 沒有這三段。 開啟原始來源

PART 05 · 兩類錯誤

兩類錯誤 統計入門參考 · 第 4 章

檢定的結論可能犯兩種錯。型一錯誤(Type I error)是在 $H_0$ 真的時候拒絕它; 型二錯誤(Type II error)是在 $H_0$ 不真時仍未能拒絕它。這裡的條件不能省略。

$$P(\text{拒絕 }H_0\mid H_0\text{ 為真})\leq\alpha,\qquad \beta(\mu)=P_\mu(\text{未拒絕 }H_0\mid \mu\text{ 是指定的對立值})。$$

一般檢定把型一錯誤率控制在 $\alpha$ 以下;在本頁這種連續、精確校準的 z 檢定中, 邊界虛無假設下會取到等號。

真實情況/決策未拒絕 $H_0$拒絕 $H_0$
$H_0$ 為真正確決策型一錯誤;機率由 $α$ 控制
$H_0$ 不真型二錯誤;機率為 $β$正確決策;檢定力 $1-β$
完整計算:型二錯誤與檢定力

算一次:同一個 5% 檢定的型二錯誤

右尾檢定 $H_0:\mu=50$ 對 $H_A:\mu>50$,已知 $\sigma=10$、$n=25$,取 $\alpha=0.05$。 拒絕門檻為 $50+1.645(10/5)=53.290$。若真實平均其實是 54,拒絕的機率約為 0.639, 這是該對立值下的檢定力;型二錯誤機率約為 $1-0.639=0.361$。

α 不是所有研究的實際誤判比例 α 是在 H₀ 為真且模型條件成立時,這套程序的條件錯誤率。它沒有告訴你 H₀ 在研究世界中多常為真,也沒有直接給定已拒絕 H₀ 後這次結論錯誤的機率。
觀念釐清
Q:把 α 從 0.05 降到 0.01,兩種錯誤都會下降嗎?

在樣本數與真實效果固定時,拒絕門檻會更嚴格,型一錯誤下降,但型二錯誤通常上升。增加樣本數常能同時維持較小的 α 並提高檢定力。

Seeing Theory PDF · Types of Error:PDF pp. 44–45 定義型一與型二錯誤。本頁將型二錯誤寫成未拒絕 H₀,並將 α 明確寫成條件機率。 開啟原始來源

QUIZ · 兩類錯誤

藥物其實沒有療效,但研究拒絕了「沒有療效」的虛無假設。這是哪種錯誤?

(A) 型二錯誤
(B) 沒有錯誤,因為 p 值小就表示結論正確
(C) 型一錯誤
PART 06 · Bootstrap 入門

Bootstrap 入門 統計入門參考 · 第 4 章

有些估計量的標準誤很難推公式。自助法(bootstrap)把手上的樣本當成一個暫時母體, 每次有放回抽取同樣多筆,重算估計量。重複很多次後,這些估計量的標準差可用來估標準誤。

查公式:由多份重抽結果計算標準誤
$$\widehat{\operatorname{SE}}_{\mathrm{boot}}(\hat\theta) =\sqrt{\frac{1}{B-1}\sum_{b=1}^B \left(\hat\theta^{*(b)}-\bar{\hat\theta}^*\right)^2}。$$
🔗 接到正課的重抽樣核心 重抽樣方法 · Bootstrap 有完整的有放回抽樣器、袋外樣本與較大次數的標準誤示範。先在這裡掌握機制,再到正課看它如何套到較複雜的估計量。
QUIZ · 自助法

原始樣本有 20 筆。一次標準 bootstrap 重抽應該怎麼做?

(A) 有放回抽 20 次,所以有些觀測重複、有些沒出現
(B) 不放回抽 20 筆,所以每筆恰好出現一次
(C) 有放回抽 2000 筆,讓資料看起來更多

Seeing Theory 網頁 · The Bootstrap:現行網頁的 The Bootstrap 示範從經驗分佈有放回重抽並估樣本平均的標準誤。 開啟原始來源

EXERCISES · 練習

複習本頁概念 先備 · 自我檢測

回顧本頁概念與原教材,檢查自己能否說明公式、圖形與成立條件。

EXERCISE 2 · 原創整合題

其他條件相同,把信心水準由 90% 提高到 99%,區間通常會怎樣?

(A) 變窄,因為我們更有信心
(B) 變寬,因為臨界值增加
(C) 不變,因為樣本平均沒有變
EXERCISE 3 · 原創整合題

一個雙尾檢定得到 p=0.08,事先設定 α=0.05。最合適的結論是?

(A) 接受 $H_0$,並證明它為真
(B) $H_0$ 為真的機率是 92%
(C) 未能拒絕 $H_0$;目前資料未達設定的證據門檻
EXERCISE 4 · 原創整合題

bootstrap 做了 2000 份重抽。這裡的 2000 代表什麼?

(A) 建立 2000 份有放回重抽樣本,得到 2000 個估計量
(B) 每一份 bootstrap 樣本含 2000 筆
(C) 原始研究一定有 2000 位受試者
重點速查與來源

從樣本推論母體速查表 先備 · S4 統計

來源:完整書目與章節定位

本頁書目與章節定位

  • 統計入門參考:Seeing Theory。Tyler Dae Devlin、Jingru Guo、Daniel Kunin、Daniel Xiang,2018 年講義草稿。原書與下載資訊
    本頁對應:統計入門參考 · 第 4 章。

需要核對完整公式、比較表或實作時,再展開下方速查。

查閱完整速查與延伸提醒
想回答的問題工具核心讀法本頁條件
未知參數大約是多少?點估計$X̄$ 是會隨抽樣改變的估計量隨機且具代表性的樣本
估計量換樣本會變多少?標準誤$SE(X̄)=σ/√n$獨立同分布、有限變異;σ 未知時以 s/√n 估計
哪些參數值與資料相容?信賴區間信心水準描述程序的長期涵蓋率本頁互動為常態、已知 σ
資料對基準假設有多不尋常?z 檢定與 p 值p 值以 H₀ 成立為條件常態、獨立、已知 σ
公式難推時怎麼估 SE?Bootstrap有放回抽 n 筆,重算 B 次樣本須能代表母體;相依資料需改方法
解讀檢查清單 看到推論結果時,依序問:母體與參數是什麼?樣本怎麼來?觀測是否可視為獨立?標準差是已知還是估計?檢定方向是否事先決定?結論有沒有把 p 值誤寫成假設為真的機率?
CARDS · 關鍵詞彙卡

關鍵詞彙卡:點卡片翻面 先備 · 詞彙

詞彙卡整理本頁依 Seeing Theory 編寫的概念解說中常用的統計或機器學習專有名詞,正面附英文名稱。 先看正面的術語,試著說出定義,再翻面核對。可以洗牌複習,也可以搭配本章例子練習解釋。

複習:展開關鍵詞彙卡