Bài giảng môn Kinh tế lượng - Chương 1: Mô hình hồi quy hai biến

Chương 1. MÔ HÌNH HỒI QUY HAI BIẾN ▪ Giới thiệu mô hình hồi quy giữa một biến phụ thuộc và một biến độc lập ▪ Mối quan hệ về mặt trung bình được thể hiện qua mô hình gọi là mô hình hồi quy ▪ Mối quan hệ ở hai mức độ: Tổng thể và Mẫu KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 16 NỘI DUNG CHƯƠNG 1 1.1. Mô hình hồi quy 1.2. Phương pháp ước lượng OLS 1.3. Tính không chệch và độ chính xác 1.4. Độ phù hợp của hàm hồi quy mẫu 1.5. Trình bày kết quả ước lượng 1.6. Một số vấn đề bổ sung KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 17 Chương 1. Mô hình hồi quy hai biến 1.1. MÔ HÌNH HỒI QUY ▪ Đánh giá tác động của một biến X lên một biến Y ▪ Ví dụ: X là thu nhập, Y là chi tiêu ▪ Thể hiện quan hệ hàm số Chi tiêu = f(Thu nhập) ▪ Đơn giản nhất là dạng tuyến tính: Chi tiêu = β1 + β2Thu nhập ▪ Thực tế luôn có sai số Chi tiêu = β1 + β2Thu nhập + u KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 18 Chương 1. Mô hình hồi quy hai biến Ví dụ minh họa ▪ Chi tiêu và thu nhập của một số hộ gia đình ▪ Giá và lượng bán một loại hàng tại một số cửa hàng KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 19 • • • • • • • • • • • • • • • • • • • • Income Consumption • • • • • • • • • • • • • Price Quantity Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Mô hình hồi quy tuyến tính hai biến ▪ Tổng quát: Y = β1 + β2X + u ▪ Các biến số: ▪ Y là biến phụ thuộc (dependent variable) ▪ X là biến độc lập, biến giải thích, biến điều khiển (independent, explanatory, control variable) ▪ Sai số ngẫu nhiên (random error): u ▪ Các hệ số hồi quy (regression coefficient): β1, β2 KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 20 Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Hàm hồi quy tổng thể - PRF ▪ Giả thiết: E(u | X) = 0 ▪ Suy ra: E(Y | X) = β1 + β2X ▪ Gọi là hàm hồi quy tổng thể - PRF (Population Regression Function) ▪ β1 : Hệ số chặn (intercept): E(Y | X = 0) ▪ β2 : Hệ số góc (slope): tác động trung bình của X • β2 = 0: không tác động • β2 > 0: X () 1 đơn vị thì TB của Y  () β2 đ.vị • β2 < 0: X () 1 đơn vị thì TB của Y  () | β2| đ.vị KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 21 Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Hàm hồi quy tổng thể - PRF ▪ Ví dụ: Giải thích ý nghĩa hệ số khi giả sử PRF: • E(Chi tiêu | Thu nhập) = 120 + 0,7 Thu nhập • E(Lượng bán | Giá) = 2000 – 2,5 Giá KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 22 Phân tích hồi quy: • Đánh giá tác động của biến độc lập lên trung bình biến phụ thuộc • Kiểm nghiệm lý thuyết về mối liên hệ • Dự báo về biến phụ thuộc Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Ví dụ minh họa ▪ Chi tiêu (Y) và Thu nhập (X) KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 23     Y (Y | X) X  E(Y | X) Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Ví dụ minh họa ▪ Hàm PRF dạng tuyến tính KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 24     Y X β1 E(Y | X) = β1 + β2X u (+) u (–) Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Hàm hồi quy mẫu - SRF ▪ Mẫu hai chiều kích thước n: {(Xi ,Yi) ; i =1÷n} ▪ Hàm trong mẫu để ước lượng cho hàm hồi quy tổng thể, thể hiện xu thế trung bình của mẫu, có dạng: ෠𝑌 = መ𝛽1 + መ𝛽2𝑋 ▪ Hoặc với từng quan sát Xi ෠𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋𝑖 ▪ Gọi là hàm hồi quy mẫu – SRF (Sample Regression Function) KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 25 Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Phần dư ▪ Giá trị ෠𝑌𝑖 có sai số so với Yi ▪ Đặt: 𝑒𝑖 = 𝑌𝑖 − ෠𝑌𝑖 ▪ Hay: 𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋𝑖 + 𝑒𝑖 ▪ Ví dụ: Chi_tiêui = 110 + 0,67 Thu_nhậpi + ei ▪ መ𝛽1, መ𝛽2 là hệ số hồi quy mẫu, hệ số ước lượng, là ước lượng (estimator) cho hệ số tổng thể β1, β2 ▪ Phần dư e là phản ánh sai số u trong tổng thể ▪ Ŷi là giá trị ước lượng (fitted value) cho E(Y | Xi) KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 26 Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Ví dụ minh họa ▪ PRF và SRF KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 27 • • • • • • • • • • • • • • • • • • Tổng thể (chưa biết) Mẫu (số liệu) Xi Yi Ŷi E(Y | X) β1 1 βˆ Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Tính tuyến tính của mô hình hồi quy ▪ Dựa trên tham số: Hàm hồi quy tuyến tính (linear regression function) nếu tuyến tính theo tham số E(Y | X ) = 1 + 2X 2 E(Y | X ) = 1 + 2lnX ▪ Hàm hồi quy phi tuyến KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 28 1 2 1 ( | )E Y X X  2 1( | )E Y X X  Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy Tóm tắt ▪ Tổng thể: Y = 𝛽1 + 𝛽2𝑋 + 𝑢 𝐸(𝑌|𝑋) = 𝛽1 + 𝛽2𝑋 ▪ Mẫu: ෠𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋𝑖 𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋𝑖 + 𝑒𝑖 ▪ መ𝛽1, መ𝛽2 là ước lượng cho 𝛽1, 𝛽2 ▪ e là đại diện cho u ▪ Ŷ là ước lượng cho E(Y | X) KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 29 Chương 1. Mô hình hồi quy hai biến 1.1. Mô hình hồi quy 1.2. PHƯƠNG PHÁP ƯỚC LƯỢNG OLS ▪ Phương pháp bình phương nhỏ nhất thông thường OLS (Ordinary Least Squares) ▪ Tìm መ𝛽1, መ𝛽2 để • 𝑅𝑆𝑆 = σ𝑖=1 𝑛 𝑒𝑖 2 = σ𝑖=1 𝑛 (𝑌𝑖 2− ෠𝑌𝑖 2) → min ▪ Với 𝑥𝑖 = 𝑋𝑖 − ത𝑋 và 𝑦𝑖 = 𝑌𝑖 − ത𝑌 መ𝛽1 = ത𝑌 − መ𝛽2 ത𝑋 ; መ𝛽2 = σ 𝑥𝑖𝑦𝑖 σ 𝑥𝑖 2 KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 30 Chương 1. Mô hình hồi quy hai biến Ví dụ 1.1: Thu nhập theo kinh nghiệm ▪ Với biến phụ thuộc Y là thu nhập ▪ Biến độc lập X là số năm kinh nghiệm ▪ Mô hình: Y = β1 + β2X + u E(Y | X) = β1 + β2X ▪ (a) Giải thích ý nghĩa của các hệ số β1, β2? ▪ (b) Với mẫu 5 người, ước lượng các hệ số KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 31 X 1 2 2 3 4 Y 4 6 5 7 9 Chương 1. Mô hình hồi quy hai biến 1.2. Phương pháp ước lượng OLS Ví dụ 1.1 (tiếp) KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 32 i Xi Yi xi yi xiyi xi 2 Ŷi ei (1) 1 4 -1.4 -2.2 3.08 1.96 3.88 0.12 (2) 2 6 -0.4 -0.2 0.08 0.16 5.54 0.46 (3) 2 5 -0.4 -1.2 0.48 0.16 5.54 -0.54 (4) 3 7 0.6 0.8 0.48 0.36 7.19 -0.19 (5) 4 9 1.6 2.8 4.48 2.56 8.85 0.15 ∑ 12 31 0 0 8.6 5.2 31 0 TB 2,4 6,2 6,2 ▪ መ𝛽2 = 8,6/5,2 = 1,65 ; መ𝛽1 = 6,2 − 1,65 × 2,4 = 2,23 ▪ Ŷi = 2,23 + 1,65 Xi Chương 1. Mô hình hồi quy hai biến 1.2. Phương pháp ước lượng OLS Ví dụ 1.1 (tiếp) ▪ Với Y là thu nhập, X là số năm kinh nghiệm Ŷi = 2,23 + 1,65 Xi ▪ (c) Giải thích ý nghĩa kết quả? ▪ (d) Ước lượng Thu nhập trung bình của người có 5 năm kinh nghiệm? ▪ (e) Giải thích ý nghĩa của cột giá trị ước lượng Ŷi và cột phần dư ei trong bảng trước ▪ (f) Nếu thay giá trị Y5 = 9 trong mẫu bởi Y5 = 14 thì kết quả như thế nào? KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 33 Chương 1. Mô hình hồi quy hai biến 1.2. Phương pháp ước lượng OLS 1.3. TÍNH KHÔNG CHỆCH VÀ ĐỘ CHÍNH XÁC ▪ Các ước lượng ngẫu nhiên, xét tính không chệch và hiệu quả của chúng  Các giả thiết OLS ▪ Giả thiết 1: Mẫu là ngẫu nhiên, độc lập ▪ Giả thiết 2: Kì vọng sai số ngẫu nhiên bằng 0 E(u | X ) = 0 hay E(ui | Xi ) = 0 i ▪ Giả thiết 3: Phương sai sai số ngẫu nhiên không đổi Var(u | X ) = 2 Var(ui | Xi) = Var(uj |Xj ) i ≠ j KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 34 Chương 1. Mô hình hồi quy hai biến Tính không chệch ▪ Định lý: Khi Giả thiết 2 được thỏa mãn thì ước lượng OLS là không chệch: 𝐸 መ𝛽1 = 𝛽1 ; 𝐸 መ𝛽1 = 𝛽1 ▪ Khi các giả thiết 1 đến 3 được thỏa mãn thì: 𝑉𝑎𝑟 መ𝛽1 = 𝜎2 σ 𝑋𝑖 2 𝑛 σ 𝑥𝑖 2 ; 𝑉𝑎𝑟 መ𝛽2 = 𝜎2 σ 𝑥𝑖 2 ▪ Phương sai sai số ngẫu nhiên σ2 ước lượng bởi: ො𝜎2 = σ 𝑒𝑖 2 𝑛 − 2 KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 35 Chương 1. Mô hình hồi quy hai biến 1.3. Tính không chệch và độ chính xác Sai số chuẩn (Standard Error) ▪ Sai số chuẩn của hồi quy (Standard Error of regression) ො𝜎 = σ 𝑒𝑖 2 𝑛 − 2 ▪ Sai số chuẩn của các ước lượng hệ số 𝑆𝑒 መ𝛽1 = ො𝜎2 σ 𝑋𝑖 2 𝑛 σ 𝑥𝑖 2 ; 𝑆𝑒 መ𝛽2 = ො𝜎2 σ 𝑥𝑖 2 KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 36 Chương 1. Mô hình hồi quy hai biến 1.3. Tính không chệch và độ chính xác 1.4. SỰ PHÙ HỢP CỦA HÀM HỒI QUY MẪU ▪ Đo mức độ biến động trong mẫu (khi có hệ số chặn) σ𝑖=1 𝑛 𝑌𝑖 − ത𝑌 2 = σ𝑖=1 𝑛 ෠𝑌𝑖 − ത𝑌 2 + σ𝑖=1 𝑛 𝑒𝑖 2 TSS = ESS + RSS ▪ TSS (Total Sum of Squares): độ biến động của biến phụ thuộc quanh trung bình ▪ ESS (Explained Sum of Squares): biến động của biến phụ thuộc được giải thích biến độc lập ▪ RSS (Residual Sum of Squares): biến động của biến phụ thuộc được giải thích bởi các yếu tố ngẫu nhiên. KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 37 Chương 1. Mô hình hồi quy hai biến Hệ số xác định ▪ Đặt đại lượng R2 𝑅2 = 𝐸𝑆𝑆 𝑇𝑆𝑆 = 1 − 𝑅𝑆𝑆 𝑇𝑆𝑆 ▪ Khi có hệ số chặn: 0  R2  1 ▪ R 2 là hệ số xác định (coefficient of determination) ▪ Ý nghĩa: Hệ số xác định cho biết tỉ lệ (%) sự biến động của biến phụ thuộc trong mẫu được giải thích bởi mô hình (bởi sự biến động của biến độc lập) KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 38 Chương 1. Mô hình hồi quy hai biến 1.4. Sự phù hợp của hàm hồi quy mẫu Tính chất của hệ số xác định ▪ Mô hình có hệ số xác định lớn thì giải thích được nhiều hơn cho sự biến động của biến phụ thuộc (trong mẫu) ▪ R2 = 0  መ𝛽2 = 0 ▪ Không có hệ số chặn thì có thể TSS ≠ ESS + RSS nên R2 có thể âm ▪ Hệ số xác định bằng bình phương hệ số tương quan mẫu: R2 = (r Ŷ, Y ) 2 = (rX ,Y) 2 KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 39 Chương 1. Mô hình hồi quy hai biến 1.4. Sự phù hợp của hàm hồi quy mẫu Ví dụ 1.1 (tiếp) ▪ Tính các đại lượng khác KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 40 i xi 2 ei 2 Xi 2 𝑌𝑖 − ത𝑌 2 (1) 1.96 0.013 1 4.84 (2) 0.16 0.213 4 0.04 (3) 0.16 0.290 4 1.44 (4) 0.36 0.037 9 0.64 (5) 2.56 0.024 16 7.84 ∑ 5.2 0.577 34 14.8 TB (RSS) (TSS)    2 0,577ˆ 0,192 5 2 σ Se β Se β       1 2 0,192 34ˆ( ) 5 5,2 0,5 0,192ˆ( ) 0,19 5,2     2 14,223 14,8 0,577 14,223 0,961 14,8 ESS R Chương 1. Mô hình hồi quy hai biến 1.4. Sự phù hợp của hàm hồi quy mẫu 1.5. TRÌNH BÀY KẾT QUẢ ƯỚC LƯỢNG ▪ Với kết quả tính toán từ ví dụ 1.1 • Ŷi = 2,23 + 1,65 Xi • Se (0,5) (0,192) • n = 5 RSS = 0,677 R2 = 0,961 ▪ (g) Giải thích ý nghĩa của hệ số xác định trong kết quả trên? KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 41 Chương 1. Mô hình hồi quy hai biến Bảng kết quả Microsoft Excel KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 42 SUMMARY OUTPUT Regression Statistics Multiple R 0.980 R Square 0.961 Adjusted R sq 0.948 Standard Error 0.436 Observations 5 ANOVA df SS MS F Sig. F Regression 1 14.223 14.223 73.96 0.003 Residual 3 0.577 0.192 Total 4 14.8 Coef. S.Error t Stat P-value Lower 95% Upper 95% Intercept 2.231 0.501 4.448 0.021 0.635 3.827 X 1.654 0.192 8.6 0.003 1.042 2.266 Chương 1. Mô hình hồi quy hai biến 1.5. Trình bày kết quả ước lượng Bảng kết quả Eviews KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 43 Dependent varible: Y Method: Least Squares Sample: 1 5 Included observation: 5 Variable Coef. Std.Error t-Statistic Prob. C 2.230769 0.501477 4.448397 0.0211 X 1.653846 0.192308 8.600000 0.0033 R-squared 0.961019 Mean dep. var 6.2 Adjusted R-sq 0.948025 S.D dep. var 1.923538 S.E.of regression 0.438529 Akaike info criterion Sum squared resid 0.576923 Schwarz criterion Log likelihood F-statistic 73.96 Durbin-Watson stat Prob(F-statistic) 0.003305 Chương 1. Mô hình hồi quy hai biến 1.5. Trình bày kết quả ước lượng 1.6. MỘT SỐ VẤN ĐỀ BỔ SUNG Vấn đề hệ số chặn ▪ Không phải lúc nào cũng có ý nghĩa kinh tế ▪ Khi không có ý nghĩa, không phân tích hệ số chặn ▪ Hệ số chặn có ý nghĩa kĩ thuật, để tránh các sai lệch ▪ Nếu không có hệ số chặn, R 2 mất ý nghĩa KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 44 Chương 1. Mô hình hồi quy hai biến Vấn đề đơn vị của biến độc lập ▪ Giá trị của X tăng m lần (đơn vị giảm m lần): • X * = mX ▪ Hàm hồi quy cũ và mới: • ෠𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋𝑖 và ෠𝑌𝑖 = መ𝛽1 ∗ + መ𝛽2 ∗𝑋𝑖 ▪ ƯL hệ số chặn không đổi, hệ số góc giảm m lần: • መ𝛽1 ∗ = መ𝛽1 መ𝛽2 ∗ = መ𝛽2/𝑚 • 𝑆𝑒( መ𝛽1 ∗) = 𝑆𝑒( መ𝛽1) 𝑆𝑒( መ𝛽2 ∗) = 𝑆𝑒( መ𝛽2)/𝑚 • ෠𝑌𝑖 ∗ = ෠𝑌𝑖 𝑅 2∗ = 𝑅2 KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 45 Chương 1. Mô hình hồi quy hai biến 1.6. Một số vấn đề bổ sung Vấn đề đơn vị của cả hai biến ▪ Giá trị của X tăng m lần, giá trị của Y tăng s lần X * = mX và Y * = sY ▪ Hàm hồi quy cũ và mới: • ෠𝑌𝑖 = መ𝛽1 + መ𝛽2𝑋𝑖 và ෠𝑌𝑖 = መ𝛽1 ∗ + መ𝛽2 ∗𝑋𝑖 • መ𝛽1 ∗ = 𝑠 ∙ መ𝛽1 መ𝛽2 ∗ = 𝑠 𝑚 መ𝛽2 • 𝑆𝑒( መ𝛽1 ∗) = 𝑠 ∙ 𝑆𝑒( መ𝛽1) 𝑆𝑒( መ𝛽2 ∗) = 𝑠 𝑚 𝑆𝑒( መ𝛽2) • ෠𝑌𝑖 ∗ = 𝑠 ∙ ෠𝑌𝑖 𝑅 2∗ = 𝑅2 KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 46 Chương 1. Mô hình hồi quy hai biến 1.6. Một số vấn đề bổ sung Tóm tắt chương 1 ▪ Khái niệm hồi quy và các biến ▪ Hàm hồi quy tổng thể, hồi quy mẫu ▪ Các hệ số và ước lượng hệ số ▪ Các sai số chuẩn ▪ Các giả thiết OLS ▪ Hệ số xác định và ý nghĩa KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 47 Chương 1. Mô hình hồi quy hai biến THỰC HÀNH CHƯƠNG 1 ▪ Với số liệu ví dụ 1.1 ▪ Nhập số liệu: • [Eviews] File  New Workfile • [Workfile structure]  Unstructured / Undated •  Observation: 5 • [Eviews] Quick  Empty group • [Group] Nhập các giá trị tương ứng ▪ [Group] View  Descripive Statistics  Common ▪ [Lệnh] LS Y C X KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 48 Chương 1. Mô hình hồi quy hai biến Thống kê mô tả ▪ Descriptive statistics Hệ số tương quan KINH TẾ LƯỢNG 1 – Bộ môn Toán kinh tế – NEU – www.mfe.edu.vn 49 X Y Mean 2.400 6.200 Median 2.000 6.000 Maximum 4.000 9.000 Minimum 1.000 4.000 Std. Dev. 1.140 1.923 Skewness 0.271 0.395 Kurtosis 1.955 1.994 Jarque-Bera 0.288 0.341 Probability 0.865 0.843 Sum 12.00 31.00 Sum Sq. Dev. 5.200 14.80 3 4 5 6 7 8 9 10 0.5 1.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 X Y Y vs. X X Y X 1 0.980 Y 0.980 1 Chương 1. Mô hình hồi quy hai biến