虛擬變量

虛擬變量（英語：dummy variable），又稱啞變量，指在統計學和計量經濟學，尤其是迴歸分析中僅取0或1的值，以此表示某些可能改變結果的定性效應之有無的變量。可以認為，虛擬變量是迴歸模型中用數字來替代並表示定性事實，從而將數據分為互斥的類別（如吸煙者及非吸煙者）。

虛擬自變量（又稱虛擬解釋變量）取值為0時，該變量的系數對應變量沒有影響，而當虛擬變量取值為1時，其系數會改變截距。例如，假定某人是否為某組的成員是與迴歸相關的定性變量之一，如果屬於該組成員以1代表，則其他所有人獲得0值，此時截距對非成員是常數項，對成員則是常數項加上「成員」虛擬變量的系數。

虛擬變量常用於時間序列分析，包括狀態轉換、季節性分析和定性數據應用。

引入虛擬自變量

圖1：wage = α₀ + δ₀female + α₁education + U的圖像，其中δ₀ < 0。

迴歸模型中，引入虛擬變量的方式與引入定量變量（作為解釋變量）的方式相同。例如，假設一個工資（wage）的明瑟迴歸模型，其中工資受性別（以female表示的虛擬變量，定性）和教育年限（education，定量）的影響，則：

$\ln {\text{wage}}=\alpha _{0}+\delta _{0}{\text{female}}+\alpha _{1}{\text{education}}+u$

其中$u\sim N(0,\sigma ^{2})$是誤差項。在模型中，當一個人是女性時，female = 1，當是男性時，female = 0。 δ₀可以理解為教育條件一樣時，女性和男性之間的工資差異。因此，δ₀有助於確定男女之間的工資是否存在差異。例如，如果δ₀ > 0（正系數），則女性的工資高於男性（其他因素不變）。附加在虛擬變量前的系數稱為差別截距系數（differential intercept coefficient）。在模型的圖像上，它可視為女性及男性之間截距的差異。圖中顯示的為δ₀ < 0（男性的工資高於女性）的情形。

虛擬變量可擴展到更為複雜的情況，例如透過替每個季節設置虛擬變量來捕捉季節效應：夏季時$D_{1}=1$，其他季節取0；秋季時$D_{2}=1$；冬季時$D_{3}=1$；春季時$D_{4}=1$。在縱橫資料中，可為橫截面數據（如公司或國家）中的每個單位或匯總時間序列中的時期設置固定效應估計虛擬變量。在此種迴歸中，必須刪除常數項或刪除其中一個虛擬變量，將其作為評估其他類別的基本類別，以避免落入虛擬變量陷阱（dummy variable trap）：

所有迴歸方程中的常數項是一個系數乘以一個等於1的迴歸量。當迴歸表示為矩陣方程時，迴歸量矩陣由一列1（常數項）、0和1向量（虛擬變量）以及其他迴歸量（若有）組成。例如，如果一個模型同時包含男性和女性虛擬變量，則這些向量的總和是全一向量，因為每個觀察都要麼歸為男性，要麼歸為女性。因此，這個總和等於常數項的迴歸量，即第一個向量。結果，即使使用典型的偽逆法，迴歸方程也無法求解。換句話說：如果全一向量（常數項）迴歸量和一組窮舉的虛擬變量同時存在，則會出現完全多重共線性，迴歸形成的方程組沒有唯一解。此即虛擬變量陷阱。可透過刪除常數項或其中一個有問題的虛擬變量以避免陷阱，而被刪除的虛擬變量即作為與其他類別進行比較的基本類別。

方差分析模型

若一個迴歸模型中，應變量本質上是定量的，但所有解釋變量都是虛擬變量（本質上是定性的），這種迴歸模型稱為方差分析（ANOVA）模型。

有一個定性變量的方差分析模型

假定我們要進行迴歸以了解公立學校教師的平均年薪在A國51個州的三個地理區域之間是否存在差異，其中這三個區域分別為：（1）北部（21 個州），（2）南部（17 個州），（3）西部（13 個州）。假設簡單算術平均工資如下：$24,424.14（北）、$22,894（南）、$26,158.62（西）。其算術平均值不同，但它們在統計上是否有意義？為了比較平均值，可以使用方差分析技術。迴歸模型可以定義為：

$Y_{i}=\alpha _{1}+\alpha _{2}D_{2i}+\alpha _{3}D_{3i}+u_{i}$

其中

$Y_{i}=$ i州公立學校教師的平均年薪

若i州在北部地區，則$D_{2i}=1$，

否則$D_{2i}=0$（除北部以外的任何地區）

若i州在南部地區，$D_{3i}=1$

否則$D_{3i}=0$

該模型中只有定性迴歸量，如果觀測屬於特定類別，則取值為1，如果屬於任何其他類別，則取值為0。因此，它是一個方差分析模型。

圖 2：方差分析模型示例迴歸結果的圖像：A國3個地區公立學校教師的平均年薪。

現在，考慮雙方的期望值，可得到以下資訊：

北部地區公立學校教師平均工資：

E(Y_i|D_2i = 1, D_3i = 0) = α₁ + α₂

南部地區公立學校教師平均工資：

E(Y_i|D_2i = 0, D_3i = 1) = α₁ + α₃

西部地區公立學校教師平均工資：

E(Y_i|D_2i = 0, D_3i = 0) = α₁

（期望值中不含誤差項，因為我們假設它滿足通常的普通最小平方法條件，即E(u_i) = 0。）

期望值可以解釋如下：西部公立學校教師的平均工資等於多元迴歸方程中的截距項α₁，加上差別截距系數α₂和α₃，後者解釋為南部、北部地區的教師工資均值與西部地區相差多少。因此，北部和南部教師的平均工資與西部教師的平均工資進行比較。西部地區因此成為基準組，即與之進行比較的組。省略的組別（即沒有分配虛擬變量的組別）作為基準組別。

使用這些數據進行迴歸的結果為：

Ŷ_i = 26,158.62 − 1734.473D_2i − 3264.615D_3i

se = (1128.523) (1435.953) (1499.615)

t = (23.1759) (−1.2078) (−2.1776)

p = (0.0000) (0.2330) (0.0349)

R² = 0.0901

其中，se = 標準誤差，t = t統計量，p = p值。

迴歸結果可以解釋為：西部教師（基準組）的平均工資約為$26,158；與之相比，北部教師的工資低約$1734（$26,158.62 - $1734.473 = $24,424.14，即平均工資北部教師的工資），南部教師的工資低約$3265（$26,158.62 - $3264.615 = $22,894，即南部教師的平均工資）。

要確定南、北部教師的平均工資與西部教師的平均工資（比較組別）在統計學上是否有差異，我們必須找出迴歸結果的斜率系數是否具有統計學意義。為此，我們需要考慮p值。北部的估計斜率系數在統計上並不顯着，因為它的p值為23%；然而，南部的p值僅在3.5%左右，在5%的水平上具有統計顯著性。因此，總體結果是：西部和北部教師的平均工資在統計上沒有顯著差異，但南部教師的平均工資在統計上比西部低$3265左右。模型如圖2所示。該模型是一個方差分析模型，其中，一個定性變量具有3個類別。

有兩個定性變量的方差分析模型

考慮具有兩個定性變量的方差分析模型，每個變量都有兩個類別：應變量「時薪」使用定性變量「婚姻狀況」（已婚/未婚）和「地理區域」（北部/非北部）來解釋。其中，婚姻狀況和地理區域是兩個解釋性虛擬變量。

假設基於某些給定數據的迴歸輸出如下所示：

Ŷ_i = 8.8148 + 1.0997D₂ − 1.6729D₃

其中，

Y為時薪（單位：$）

D₂為婚姻狀況，1 = 已婚，0 = 未婚

D₃為地理區域，1 = 北部，0 = 非北部

該模型為每個定性變量分配了一個虛擬變量，比每個變量中包含的類別數少一個。

這裏，基準組是省略的組別：未婚、非北方地區的人。所有比較都與該基準組或省略的組別相關。基準組的平均時薪約為$8.81（截距項）。相比之下，已婚人士的平均時薪高出約$1.10，約為$9.91（$8.81 + $1.10）。相比之下，居住在北方的人的平均時薪低約$1.67，約為$7.14（$8.81 - $1.67）。

一般來說，如果迴歸中包含一個以上的定性變量，則應選擇一個省略的組別作為基準組。所有比較都與該組相關。截距項將顯示基準組的期望值，斜率系數顯示其他組別與基準（省略）組別的差異程度。

協方差分析模型

包含定量和定性變量的混合迴歸模型稱為協方差分析（ANCOVA）模型。 協方差分析模型是方差分析模型的擴展。它們統計控制定量解釋變量（也稱為協變量或控制變量）的影響。

為了說明如何包含定性和定量迴歸變量來形成協方差分析模型，假設我們考慮在方差分析模型中使用的相同示例，其中有一個定性變量：A國三個地理區域的公立學校教師的平均年薪。如果我們包括一個定量的變量：州政府對每名公立學校學生的財政支出，則這一迴歸中，可得到以下模型：

圖3：協方差分析模型示例的迴歸結果：公立學校教師的年薪（Y）與公立學校每名學生的州財政支出之間的關係。

Y_i = α₁ + α₂D_2i + α₃D_3i + α₄X_i + U_i

其中，

Y_i = i州公立學校教師的平均年薪

X_i = 公立學校每名學生的州財政支出

D_2i = 1，若i州在北部地區

否則D_2i = 0

D_3i = 1，若i州在南部地區

否則D_3i = 0

假設這個模型的迴歸輸出是

Ŷ_i = 13,269.11 − 1673.514D_2i − 1144.157D_3i + 3.2889X_i

結果表明，公立學校每名學生的州財政支出每增加$1，公立學校教師的平均工資就會增加約$3.29。此外，對於北部地區的一個州，教師的平均工資比西部地區低約$1673，對於南部地區的一個州，教師的平均工資比西部地區低約$1144。圖3描繪了該模型。假設支出系數不因州而異，則平均工資線彼此平行。圖中分別顯示了每個類別中，兩個定量變量之間的關係，即公立學校教師的工資（Y）與公立學校每名學生的州財政支出（X）之間的關係。

虛擬變量間的交互作用

迴歸模型中的定量迴歸變量通常存在交互作用。同樣，定性的迴歸變量，即虛擬變量之間也可能有交互作用，這些交互作用可在迴歸模型中描述。例如，在涉及工資確定的迴歸中，如果考慮兩個定性變量：性別和婚姻狀況，則婚姻狀況和性別之間可能存在交互作用。這些交互作用可以在迴歸方程中顯示，如下例所示。

由於兩定性變量是性別和婚姻狀況，定量的解釋變量是受教育年限，解釋變量純線性的迴歸將是

Y_i = β₁ + β₂D_2,i + β₃D_3,i + αX_i + U_i

其中

i表示某個特定個人

Y = 時薪（單位：$）

X = 受教育年限

D₂ = 1若為女性，否則為0

D₃ = 1若已婚，否則為0

這一模型無法表達兩個定性變量D₂和D₃之間發生交互作用的可能性。例如，已婚女性的工資與未婚男性的工資差異，其數額與單獨為女性和單獨為已婚的差值之和不同。為了考慮這種可能性，工資的確定可以指定為：

Y_i = β₁ + β₂D_2,i + β₃D_3,i + β₄(D_2,iD_3,i) + αX_i + U_i

其中，

β₂ = 作為女性的差別效應

β₃ = 已婚的差別效應

β₄ = 女性且已婚的進一步差別效應

根據該等式，在沒有非零誤差的情況下，未婚男性的工資為β₁ + αX_i，未婚女性的工資為β₁ + β₂ + αX_i，已婚男性的工資為β₁ + β₃ + αX_i，而已婚女性的比例是β₁ + β₂ + β₃ + β₄ + αX_i（其中任何虛擬變量系數的估計值都可能是為正、零，或負）。

由此，交互虛擬變量（兩個虛擬變量的乘積）會改變應變量，使之與單獨考慮兩個虛擬變量時得到的值有所不同。

或者，可以透過使用不同的數據分類方案來避免使用虛擬變量的乘積來表達交互作用，即使用根據特徵組合指定組別的方案。如果令

D₄ = 1若為未婚女性，否則為0

D₅ = 1若為已婚男性，否則為0

D₆ = 1若為已婚女性，否則為0

那麼僅需指定如下迴歸：

Y_i = δ₁ + δ₄D_4,i + δ₅D_5,i + δ₆D_6,i + αX_i + U_i

那麼在零誤差項下，應變量的值是對於基準組未婚男性為δ₁ + αX_i，對於未婚女性為δ₁ + δ₄ + αX_i，對於已婚男性為δ₁ + δ₅ + αX_i，對於已婚女性為δ₁ + δ₆ + αX_i。該方法在等號右側使用的變量數與先前具有交互項的方法相同，並且使用本方法還是指定交互項目的方法，對於X_i下任意定性特徵組合下的應變量預測值，給出的迴歸結果是相同的。

虛擬應變量

應變量是虛擬變量的情景

具有虛擬應變量（也稱為定性應變量）的模型中，應變量受解釋變量的影響是定性的。例如，一些關於執行「多少」行為的決定涉及事先決定是否執行該行為；「事前決策」的迴歸在迴歸模型中有一個因虛擬變量。

例如，潛在工人成為勞動力一部分的決策是一個虛擬應變量。該決策是二分的，即有兩種可能的結果：是和否。因此，虛擬應變量Participation在「參與」時取值為1，「不參與」則取值為0。下面給出其他一些二元的虛擬應變量的例子：

• 決策：職業選擇。虛擬應變量：若選擇成為高管，則 高管=1，否則為0。

• 決策：隸屬於某政黨。虛擬應變量：若隸屬於某政黨，則 隸屬=1，不加入則為0。

• 決策：退休。虛擬應變量：若已退休，則 退休=1，0表示未退休。

當虛擬應變量具有兩個以上的值時（例如隸屬於多個政黨），它就變成了多響應（或多項式、多叉分枝）模型。

虛擬應變量模型

虛擬應變量模型的分析有不同的方法。其中一種是通常的普通最小平方法，在該情景下稱為線性概率模型。另一種方法是假設存在一個不可觀察的連續潛變量Y^*，如果Y^* > 0，則觀察到的二分變量Y = 1，否則為0。這是邏輯斯諦和概率單位模型的基本理念。這些模型將在下面簡要討論。

線性概率模型

普通最小平方法模型中，若應變量Y是二分的虛擬變量，取值0或1，則稱該模型為線性概率模型（LPM）。假設考慮以下迴歸：

$Y_{i}=\alpha _{1}+\alpha _{2}X_{i}+u_{i}$

其中$z_{i}=\alpha _{1}+\alpha _{2}X_{i}+u_{i}$。

$X$ = 家庭收入

$Y=1$若住房為家庭自有，0若住房非家庭自有

該模型稱為線性概率模型，是因為迴歸是線性的。給定X_i條件下的Y_i的條件均值記作$\mathbb {E} (Y_{i}|X_{i})$，可解釋為在相應X_i值下，事件發生的條件概率，即Pr(Y_i = 1 | X_i) 。在這個例子中，$\mathbb {E} (Y_{i}|X_{i})$表示的是當家庭收入為X_i時，一個家庭自有住房的概率。

此時，使用普通最小平方法的假設$E(u_{i}|X_{i})=0$，可得到

$\mathbb {E} (Y_{i}|X_{i})=\alpha _{1}+\alpha _{2}X_{i}$

LPM模型中存在一些固有問題：

1. 迴歸線無法做到擬合良好，因此諸如R²之類的顯著性度量將不可靠。
2. 使用LPM方法分析的模型有異方差干擾。
3. 誤差項有非正態分佈。
4. LPM可能會給出大於1或小於0的應變量的預測值。這將很難作出解釋，因為預測值是概率，必須介於0和1之間。
5. LPM模型的變量之間可能存在非線性關係，在這種情況下，線性迴歸將無法準確擬合數據。

線性概率模型的替代品

圖 4：累積分佈函數

為了避免LPM的局限性，我們需要一個模型，其中隨着解釋變量X_i的增加，P_i = E(Y_i = 1 | X_i)應恆在0到1之間。因此，自變量和應變量之間的關係必然是非線性的。

為此，可以使用累積分佈函數（CDF） 來估計虛擬應變量迴歸。圖4顯示了一條S形曲線，它類似於隨機變量的累積分佈函數。該模型中，概率在0和1之間，並且已經捕獲了非線性關係。此時的問題就是如何選用累積分佈函數。

可以使用兩種替代性的CDF：邏輯斯諦CDF和正態CDF。邏輯斯諦CDF產生邏輯斯諦模型，正態CDF產生概率單位模型。

邏輯斯諦模型

LPM的缺點促使人們開發了一種改良的模型，稱為logit模型。該模型中，迴歸方程中誤差項的累積分佈是邏輯斯諦分佈。因為它是非線性的，其迴歸更接近現實。

使用最大似然法估計logit模型。該模型中，$P(Y=1|X)$ ，即在給定自變量的情況下，應變量取值為1的概率為：

$P_{i}={\frac {1}{1+e^{-z_{i}}}}\ ={\frac {e^{z_{i}}}{1+e^{z_{i}}}}\$

然後模型以讓步比的形式表示：邏輯斯諦迴歸（對數幾率迴歸）中建模的是幾率的自然對數，幾率定義為$P/(1-P)$ 。取幾率的自然對數，logit（L_i）表示為

$L_{i}=\ln \left({\frac {P_{i}}{1-P_{i}}}\right)=z_{i}=\alpha _{1}+\alpha _{2}X_{i}.$

這種關係表明，L_i與X_i呈線性關係，但概率與X_i呈非線性關係。

概率單位模型

概率單位（probit）模型是為彌補LPM的缺點而提出的另一個模型。Probit模型使用與logit模型相同的非線性方法。但是，它使用正態CDF而不是邏輯CDF。

參見

• 二元迴歸
• 鄒檢驗
• 假設檢定
• 指示函數
• 線性判別分析
• 多重共線性

延伸閱讀

• Asteriou, Dimitrios; Hall, S. G. Dummy Variables 3rd. London: Palgrave Macmillan. 2015: 209–230. ISBN 978-1-137-41546-2. 
• Kooyman, Marius A. Dummy Variables in Econometrics. Tilburg: Tilburg University Press. 1976. ISBN 90-237-2919-6. 

外部連結

• Maathuis, Marloes. Chapter 7: Dummy variable regression (PDF). Stat 423: Applied Regression and Analysis of Variance. 2007. （原始內容 (PDF)存檔於December 16, 2011）. 
• Fox, John. Dummy-Variable Regression (PDF). 2010 [2022-07-22]. （原始內容存檔 (PDF)於2022-11-22）. 
• Baker, Samuel L. Dummy Variables (PDF). 2006. （原始內容 (PDF)存檔於March 1, 2006）.