① 依序閱讀：每節先讀說明；遇到互動元件時，先預測結果，再操作驗證。 ② 對照來源與算例：先算過本頁例子，再操作互動。計算細節、完整實作與證明預設收合，可按需要展開；各節附 Seeing Theory 網站與講義連結供對照。 ③ 檢查理解：答錯時先看回饋，再回到相關說明；標為延伸的內容可留待第二輪。 ④ 最後翻關鍵詞彙卡自測術語，並用 重點速查與來源查閱。
統計入門參考：Seeing Theory。章節旁的來源標記可點到本頁書目。
你想知道全班每天平均花多少時間通勤，卻只問了坐在附近的五位同學。 這五個答案可以描述受訪者；要用它們推測全班，還需要考慮誰有機會被問到。 統計的起點是說清楚想了解誰，以及手上觀察到誰。
母體（population）是研究想涵蓋的全部對象；樣本（sample）是實際觀察到的部分。 母體的數值特徵叫參數（parameter），例如全班平均通勤時間 μ。 由樣本算出的數值叫統計量（statistic），例如五位同學的平均值。
延伸閱讀：Seeing Theory 講義 · Estimation：由樣本了解母體。
投擲一枚硬幣之前，結果尚未確定。我們用樣本空間（sample space）列出所有可能結果， 用事件（event）表示其中想觀察的一組結果。一次投擲的樣本空間可寫成 Ω = {正面，反面}；事件 A 是「出現正面」。
機率 P(A) 是模型為事件指定的數值，介於 0 和 1 之間。所有可能結果合起來的機率為 1。 若模型假設硬幣公平，正反面機率各為 0.5；機率相等需要理由，不能只因為有兩種結果就各分一半。
$$0\le P(A)\le 1,\qquad P(\Omega)=1,\qquad P(A^c)=1-P(A).$$這裡 Aᶜ 表示「A 沒有發生」。例如公平骰子出現偶數的機率為 3/6 = 1/2；出現非偶數的機率也為 1/2。
假設連續投擲硬幣 10 次，有 7 次正面。觀察比例是 7/10 = 0.7， 它是這次資料的摘要；模型中的正面機率 p 可以仍是 0.5。有限樣本會有波動。
公平硬幣投 10 次出現 7 次正面，這表示什麼？
要對硬幣結果算平均，先把正面記為 1、反面記為 0。這個把結果轉成數字的規則叫 隨機變數（random variable），記作 X。擲出來的某次結果 x 則是它的一個觀察值。
期望值（expectation）把每個可能值乘上出現機率，再全部相加。 下式的 Σ 表示加總；例如可能值只有 0 和 1，就只加這兩項。這裡先處理有限多個可能值。
$$E[X]=\sum_x xP(X=x).$$正面機率 p = 0.3 時，E[X] = 0 × 0.7 + 1 × 0.3 = 0.3。 每次只能得到 0 或 1，但長期平均可以接近 0.3。期望值不必是一次實驗能得到的值。
公平骰子的期望值同樣是加權平均：
$$E[X]=1\cdot\frac16+2\cdot\frac16+\cdots+6\cdot\frac16=\frac{21}{6}=3.5.$$公平骰子的期望值為 3.5，正確解讀是？
延伸閱讀：Seeing Theory 講義 · Expectation。
只要相關期望值存在，期望值具有線性性，不需要獨立：
$$E[aX+bY+c]=aE[X]+bE[Y]+c.$$例如兩天各有期望通勤時間 20 分鐘，總時間的期望是 40 分鐘；即使兩天都受同一交通狀況影響，這個加法仍成立。
以有限離散分布為例，對所有可能的配對加總：
$$E[aX+bY+c]=\sum_{x,y}(ax+by+c)P(X=x,Y=y) =a\sum_x xP(X=x)+b\sum_y yP(Y=y)+c.$$這裡只用了邊際機率等於聯合機率的加總，沒有將聯合機率拆成乘積。
兩個分布都可能平均為 3，波動卻不同。若 X 等機率取 2 或 4，離平均的距離都是 1； 若 Y 等機率取 0 或 6，距離都是 3。只報平均無法呈現這個差異。
變異數（variance）是偏離期望值的平方之期望。 直接把正負偏差平均會相互抵銷，平方能保留偏離的大小。 標準差（standard deviation）是變異數的平方根，單位回到原本的測量單位。
上述 X 的變異數是 (1² + 1²)/2 = 1，Y 的變異數是 (3² + 3²)/2 = 9，標準差分別為 1 與 3。 對 0／1 硬幣，X² = X，所以 Var(X) = p − p² = p(1−p)。 p = 0.5 時是 0.25；p = 0 或 1 時結果固定，變異數為 0。可回上方滑桿核對。
把所有數值換成 Y = aX + b 時，平移 b 不改變每個值與平均的距離；乘上 a 則使偏差乘上 a，平方偏差因此乘上 a²：
$$E[Y]=aE[X]+b,\qquad \operatorname{Var}(Y)=a^2\operatorname{Var}(X).$$手上若只有樣本，常用以下公式估計母體變異數（n ≥ 2）：
$$s^2=\frac{1}{n-1}\sum_{i=1}^n(x_i-\bar{x})^2.$$用 n−1 作分母，能在獨立同分布、有限變異數的抽樣下得到母體變異數的不偏估計。 若只是描述手上 n 筆資料的平均平方偏差，也可以除以 n，但要說清楚目的。 例如樣本 {2, 4} 的樣本平均為 3，s² = 2；這與上面「完整機率分布」的變異數 1 使用不同資訊及分母。
大數法則（law of large numbers）說明：在獨立同分布且期望值存在等條件下， 樣本平均會隨樣本數增加而趨近母體期望值。本頁的有限值硬幣模型符合條件。 觀察平均更穩定，並不代表每一次投擲本身變得更穩定；單次變異數仍為 p(1−p)。
延伸閱讀：Seeing Theory 講義 · Variance。
延伸閱讀：Seeing Theory 講義 · Consistency of Estimators：長期穩定的例子。
期望值可以直接相加，變異數則要考慮變數是否一起波動。定義 $\operatorname{Cov}(X,Y)=E[(X-E[X])(Y-E[Y])]$，有限二階動差下有：
$$\operatorname{Var}(aX+bY)=a^2\operatorname{Var}(X)+b^2\operatorname{Var}(Y)+2ab\operatorname{Cov}(X,Y).$$獨立會使共變異數為 0。因此，若 $X_1,\ldots,X_n$ 獨立同分布，平均為 μ、有限變異數為 σ²，
$$E[\bar X]=\mu,\qquad \operatorname{Var}(\bar X)=\frac{\sigma^2}{n}.$$把 $a(X-E[X])+b(Y-E[Y])$ 平方後取期望，平方項給出兩個變異數，交叉項給出 $2ab\operatorname{Cov}(X,Y)$。 獨立時 $E[XY]=E[X]E[Y]$，所以交叉項為 0。於是
$$\operatorname{Var}\!\left(\frac1n\sum_iX_i\right)=\frac1{n^2}\sum_i\sigma^2=\frac{\sigma^2}{n}.$$在上述獨立同分布、有限變異數的條件下，
$$\sum_i(X_i-\bar X)^2=\sum_i(X_i-\mu)^2-n(\bar X-\mu)^2.$$兩邊取期望，右邊是 $n\sigma^2-n\operatorname{Var}(\bar X)=(n-1)\sigma^2$。 因此 $n\ge2$ 時，$E[s^2]=\sigma^2$。
Markov 不等式適用於非負 X 與 $a>0$；Chebyshev 不等式適用於有限變異數的 X 與 $\varepsilon>0$：
$$P(X\ge a)\le\frac{E[X]}a,\qquad P(|X-\mu|\ge\varepsilon)\le\frac{\sigma^2}{\varepsilon^2}.$$套在樣本平均，可得 $P(|\bar X-\mu|\ge\varepsilon)\le\sigma^2/(n\varepsilon^2)$。 這個界限隨 n 趨近 0，說明有限變異數、獨立同分布情況下的弱大數法則；它不要求每一次新抽樣都比前一次接近 μ。
因為 $X\ge a\mathbf1_{\{X\ge a\}}$，取期望得 $E[X]\ge aP(X\ge a)$，這就是 Markov 不等式。 再把非負變數 $(X-\mu)^2$ 與門檻 $\varepsilon^2$ 代入，得到 Chebyshev 不等式。 最後代入 $\operatorname{Var}(\bar X)=\sigma^2/n$；固定 $\varepsilon>0$ 時右邊隨 n 增大而趨近 0。
延伸閱讀：Seeing Theory 講義 · 期望值與變異數性質。
延伸閱讀：Seeing Theory 講義 · Markov 與 Chebyshev 不等式；一致性見 pp.17–18。
回顧本頁概念與原教材，檢查自己能否說明公式、圖形與成立條件。
從 100 次增加到 200 次獨立公平投擲，哪件事有理論保證？
需要核對完整公式、比較表或實作時，再展開下方速查。
詞彙卡整理本頁依 Seeing Theory 編寫的概念解說中常用的統計或機器學習專有名詞，正面附英文名稱。 先看正面的術語，試著說出定義，再翻面核對。可以洗牌複習，也可以搭配本章例子練習解釋。