Bài giảng môn Kinh tế lượng - Chương 2: Hồi quy đơn biến

CHƯƠNG 2 HỒI QUY ĐƠN BIẾN 2 Biết được phương pháp ước lượng bình phương nhỏ nhất để ước lượng hàm hồi quy tổng thể dựa trên số liệu mẫu Hiểu các cách kiểm định những giả thiết Sử dụng mô hình hồi quy để dự báo MỤC TIÊU HỒI QUY ĐƠN BIẾN NỘI DUNG Mô hình 1 Phương pháp bình phương nhỏ nhất (OLS) 2 3 Kiểm định giả thiết 4 Ví dụ 5 Khoảng tin cậy Ví dụ Cho số liệu về số lượng gạo bán (tấn) hàng tháng của 6 cửa hàng gạo. Nếu anh A mở một của hàng gạo thì dự báo lượng gạo bán hàng tháng. 4 Cửa hàng Số lượng 1 10 2 6 3 9 4 5 5 4 6 2 Ví dụ Nếu anh A muốn bán gạo mức giá 6 ngàn đ/kg thì dự báo số lượng gạo bán trong tháng. 5 Cửa hàng Giá Số lượng 1 1 10 2 4 6 3 2 9 4 5 5 5 5 4 6 7 2 2.1 MÔ HÌNH Mô hình hồi quy tuyến tính hai biến (đơn biến) PRF dạng xác định E(Y/X i ) = f(X i )= β 1 + β 2 X i dạng ngẫu nhiên Y i = E(Y/X i ) + U i = β 1 + β 2 X i + U i SRF dạng xác định dạng ngẫu nhiên 6 2.1 MÔ HÌNH Trong đó : Ước lượng cho b 1 . : Ước lượng cho b 2 . : Ước lượng cho E(Y/Xi) Sử dụng phương pháp bình phương nhỏ nhất thông thường (OLS) để tìm , 7 2.1 MÔ HÌNH 8 Hình 2.1: Hệ số hồi quy trong hàm hồi quy PRF và SRF 2.2 PHƯƠNG PHÁP OLS Giả sử có n cặp quan sát (X i , Y i ). Tìm giá trị Ŷ i sao cho Ŷ i gần giá trị Y i nhất, tức e i = |Y i - Ŷ i | càng nhỏ càng tốt. Tuy nhiên, e i thường rất nhỏ và thậm chí bằng 0 vì chúng triệt tiêu lẫn nhau. Để tránh tình trạng này, ta dùng phương pháp bình phương nhỏ nhất ( Ordinary least squares OLS ) . Với n cặp quan sát, muốn 9 2.2 PHƯƠNG PHÁP OLS Điều kiện (*) có nghĩa tổng bình phương các sai lệch giữa giá trị thực tế (Y i ) và giá trị tính theo hàm hồi quy mẫu là nhỏ nhất. Bài toán thành tìm , sao cho f  min Điều kiện để phương trình trên đạt cực trị là: 10 2.2 PHƯƠNG PHÁP OLS 11 Hay 2.2 PHƯƠNG PHÁP OLS Giải hệ ta được 12 2.2 PHƯƠNG PHÁP OLS Với 13 là trung bình mẫu (theo biến) gọi là độ lệch giá trị của biến so với giá trị trung bình mẫu Đặc điểm của đường hồi quy mẫu Một khi thu được các ước lượng từ mẫu, ta có thể vẽ được đường hồi quy mẫu và đường này có những đặc tính sau: 14 Đặc điểm của đường hồi quy mẫu Nó đi qua giá trị trung bình mẫu của X và Y, do 15 Hình 2.2: Đường hồi quy mẫu qua giá trị trung bình Đặc điểm của đường hồi quy mẫu 2. Giá trị ước lượng trung bình của Y bằng với giá trị trung bình của Y quan sát. 3. Giá trị trung bình của sai số e i bằng 0: ē = 0 . 4. Sai số e i không có tương quan với giá trị dự báo của Y i . 5. Sai số e i không có tương quan với X i . 16 CÁC TỔNG BÌNH PHƯƠNG ĐỘ LỆCH 17 TSS = RSS + ESS  TSS (Total Sum of Squares - Tổng bình phương sai số tổng cộng) ESS: (Explained Sum of Squares - Bình phương sai số được giải thích) RSS: (Residual Sum of Squares - Tổng bình phương sai số) 18 CÁC TỔNG BÌNH PHƯƠNG ĐỘ LỆCH ESS Tổng chênh lệch 19 RSS SRF TSS Y X Y i X i Hình 2.3: Ý nghĩa hình học của TSS, RSS và ESS CÁC TỔNG BÌNH PHƯƠNG ĐỘ LỆCH TSS = ESS + RSS → 20 HỆ SỐ XÁC ĐỊNH R 2 Hàm SRF phù hợp tốt với các số liệu quan sát (mẫu) khi gần Y i . Khi đó ESS lớn hơn RSS. Hệ số xác định R 2 : một thước đo mức độ phù hợp của hàm hồi quy mẫu. 21 Trong mô hình 2 biến, người ta chứng minh được rằng  HỆ SỐ XÁC ĐỊNH R 2 Nhược điểm: R 2 tăng khi số biến X đưa vào mô hình tăng, dù biến đưa vào không có ý nghĩa. =>Sử dụng R 2 điều chỉnh (adjusted R 2 -R 2 ) để quyết định đưa thêm biến vào mô hình. TÍNH CHẤT CỦA HỆ SỐ XÁC ĐỊNH R 2 22 0≤ R 2 ≤1 Cho biết % sự biến động của Y được giải thích bởi các biến số X trong mô hình. R 2 = 1: đường hồi quy phù hợp hoàn hảo R 2 =0: X và Y không có quan hệ HỆ SỐ XÁC ĐỊNH ĐIỀU CHỈNH  R2 Khi k > 1, R 2 < R 2 . Do vậy, khi số biến X tăng,R 2 sẽ tăng ít hơn R 2 . Khi đưa thêm biến vào mô hình mà làm choR 2 tăng thì nên đưa biến vào và ngược lại. 23 24 Hệ số tương quan r: đo lường mức độ chặt chẽ của quan hệ tuyến tính giữa 2 đại lượng X và Y. HỆ SỐTƯƠNG QUAN r 25 r > 0: giữa X và Y có quan hệ đồng biến r-> ± 1: X và Y có quan hệ tuyến tính chặt chẽ r-> 0: X và Y có quan hệ tuyến tính không chặt chẽ r < 0: X và Y có quan hệ nghịch biến Hệ số tương quan có tính chất đối xứng: r XY = r YX Nếu X, Y độc lập theo quan điểm thống kê thì hệ số tương quan giữa chúng bằng 0. r chỉ là đại lượng đo sự kết hợp tuyến tính hay phụ thuộc tuyến tính, r không có ý nghĩa để mô tả quan hệ phi tuyến. TÍNH CHẤT HỆ SỐTƯƠNG QUAN r 26 HỆ SỐTƯƠNG QUAN r và r cùng dấu với VD: Với R 2 = 0,81 => r = ± 0,9 = 0,9 Có thể chứng minh được HIỆP TƯƠNG QUAN MẪU 27 Đo lường mức độ quan hệ giữa X và Y 2.3 Các giả thiết của phương pháp OLS Giả thiết 1: Các giá trị X i được xác định trước và không phải là đại lượng ngẫu nhiên. VD: Mẫu 1 Mẫu 2 28 Chi tiêu Y Thu nhập X 70 80 65 100 90 120 95 140 110 160 115 180 120 200 140 220 155 240 150 260 Chi tiêu Y Thu nhập X 55 80 88 100 90 120 80 140 118 160 120 180 145 200 135 220 145 240 175 260 Giả thiết 2: Kỳ vọng hoặc trung bình số học của các sai số là bằng 0 (zero conditional mean), nghĩa là E(U/X i ) = 0 Giả thiết 3: Các sai số U có phương sai bằng nhau (homoscedasticity). Var(U/X i ) = σ 2 29 2.3 Các giả thiết của phương pháp OLS Phương sai sai số đồng nhất: Var(U/X i ) = σ 2 2.3 Các giả thiết của phương pháp OLS 30 Phương sai sai số không đồng nhất: var(U i |X i ) =  i 2 31 2.3 Các giả thiết của phương pháp OLS 2.3 Các giả thiết của phương pháp OLS Giả thiết 4: Các sai số U không có sự tương quan, nghĩa là Cov(U i , U i’ ) = E(U i U i’ ) = 0, nếu i  i’ 32 Một số kiểu mẫu biến thiên của thành phần nhiễu 33 2.3 Các giả thiết của phương pháp OLS Giả thiết 5: Các sai số U độc lập với biến giải thích. Cov(U i , X i ) = 0 Giả thiết 6: Đại lượng sai số ngẫu nhiên có phân phối chuẩn U i ~ N(0, δ 2 ) 34 2.4 TÍNH CHẤT CÁC ƯỚC LƯỢNG , là ước lượng điểm của , tìm được bằng phương pháp OLS có tính chất: , được xác định một cách duy nhất với n cặp giá trị quan sát (X i , Y i ) , là các đại lượng ngẫu nhiên, với các mẫu khác nhau, giá trị của chúng sẽ khác nhau Ta đo lường độ chính xác các ước lượng bằng sai số chuẩn (standard error – se). 35 Sai số chuẩn của các ước lượng OLS  2 : phương sai nhiễu của tổng thể  2 = Var (U i ) -> thực tế khó biết được giá trị  2 -> dùng ước lượng không chệch 36 var: phương sai se: sai số chuẩn Sai số chuẩn của các ước lượng OLS 37 Sai số chuẩn của hồi quy: là độ lệch tiêu chuẩn các giá trị Y quanh đường hồi quy mẫu Sai số chuẩn của các ước lượng OLS 38 Định lý Gauss-Markov Định lý : Với những giả thiết (từ 1 đến 5) của mô hình hồi quy tuyến tính cổ điển, mô hình hồi quy tuyến tính theo phương pháp bình phương tối thiểu là ước lượng tuyến tính không chệch tốt nhất , tức là, chúng là BLUE. 39 Định lý Gauss-Markov Một ước lượng được gọi là “ước lượng không chệch tuyến tính tốt nhất” (BLUE) nếu thỏa các điều kiện: Nó là tuyến tính, có nghĩa là một hàm tuyến tính của một biến ngẫu nhiên, Nó không chệch, Nó có phương sai nhỏ nhất, hay còn gọi là ước lượng hiệu quả (efficient estimator) . 40 2.4 KHOẢNG TIN CẬY CỦA HỆ SỐ HỒI QUY Xác suất của khoảng ( i -  i ,  i +  i ) chứa giá trị thực của  i là 1 -  hay: P( i -  i   i   i +  i ) = 1 - . với 41     2.4 KHOẢNG TIN CẬY CỦA HỆ SỐ HỒI QUY ( i -  i ,  i +  i ) : là khoảng tin cậy,  i : độ chính xác của ước lượng 1 - : hệ số tin cậy,  với (0 <  < 1): là mức ý nghĩa. t (/2, n-2): giá trị tới hạn (tìm bằng cách tra bảng số t-student) n: số quan sát Ví dụ: nếu  = 0,05 = 5%, ta đọc “xác suất để khoảng tin cậy chứa giá trị thực của  1 ,  2 là 95%. 42   2.4 KHOẢNG TIN CẬY CỦA  2 , : giá trị của đại lượng ngẫu nhiên phân phối theo quy luật với bậc tự do n-2 thỏa điều kiện 43 hay 2.5 KIỂM ĐỊNH GIẢ THUYẾT Do U i theo phân phối chuẩn, các ước lượng OLS của  1 và  2 cũng theo phân phối chuẩn vì chúng là các hàm số tuyến tính của U i . Chúng ta có thể áp dụng các kiểm định t , F , và  2 để kiểm định các giả thuyết về các ước lượng OLS. 44 1. Kiểm định giả thuyết về hệ số hồi quy 45 Hai phía: Phía phải: Phía trái: 2.5 KIỂM ĐỊNH GIẢ THUYẾT 46 Cách 1: Phương pháp giá trị tới hạn Bước 1: Tính t Bước 2: Tra bảng t-student để có giá trị tới hạn Bước 3: Quy tắc quyết định Nếu bác bỏ H 0 . Nếu chấp nhận H 0 . 1. Kiểm định giả thuyết về hệ số hồi quy 47 -4 -3 -2 -1 0 1 2 3 4 t f(t) a/2 a/2 -t a/2 t a/2 1-a Miền bác bỏ Ho Miền bác bỏ Ho Miền chấp nhận Ho 48 Cách 2 : Phương pháp khoảng tin cậy Khoảng tin cậy của  i :với mức ý nghĩa  trùng với mức ý nghĩa của H 0 Quy tắc quyết định - Nếu chấp nhận H 0 - Nếu bác bỏ H 0 1. Kiểm định giả thuyết về hệ số hồi quy 49 Cách 3 : Phương pháp p-value Bước 1: Tính  Bước 2: Tính  Bước 3: Quy tắc quyết định - Nếu p ≤  : Bác bỏ H 0 - Nếu p >  : Chấp nhận H 0 1. Kiểm định giả thuyết về hệ số hồi quy 50 Thực tế H0 đúng H0 sai Quyết định Không bác bỏ Quyết định đúng, xác suất 1- α Quyết định sai , xác suất β (Sai lầm loại 2) Bác bỏ Quyết định sai, xác suất α Quyết định đúng, xác suất 1- β (Sai lầm loại 1) 51 1. Kiểm định giả thuyết về hệ số hồi quy Loại GT H 0 H 1 Miền bác bỏ Hai phía β i = β i * β i ≠ β i * |t|>t  /2 (n-2) Phía phải β i ≤ β i * β i > β i * t>t  (n-2) Phía trái β i ≥ β i * β i < β i * t<-t  (n-2) 52 0 t f(t) a t a 1-a H 0 : β i ≤ β i * H 1 : β i > β i * Miền bác bỏ Ho Kiểm định phía phải 53 0 t f(t) a -t a 1-a H 0 : β i ≥ β i * H 1 : β i < β i * Kiểm định phía trái Miền bác bỏ Ho 54 Kiểm định giả thiết H 0 : R 2 = 0 (tương đương H 0 : β 2 = 0 ) với mức ý nghĩa  hay độ tin cậy 1 -  Bước 1: Tính  a. Phương pháp giá trị tới hạn Bước 2: Tra bảng F với mức ý nghĩa  và hai bậc tự do (1, n-2) Bước 3: Quy tắc quyết định - Nếu F > F  (1,n-2): Bác bỏ H 0 - Nếu F ≤ F  (1,n-2): Chấp nhận H 0 2. Kiểm định sự phù hợp của mô hình b. Phương pháp p-value Bước 2: Tính p-value= p (F  (1,n-2)>F) Bước 3: Quy tắc quyết định - Nếu p ≤  : Bác bỏ H 0 - Nếu p >  : Chấp nhận H 0 2. Kiểm định sự phù hợp của mô hình 55 56 Miền bác bỏ Ho Miền chấp nhận Ho F  = 0,05 F  (1,n-2 ) Thống kê F 57 Với mô hình hồi quy Cho trước giá trị X = X 0 , hãy dự báo giá trị trung bình và giá trị cá biệt của Y với mức ý nghĩa  hay độ tin cậy 1 - . * Ước lượng điểm 2.6 DỰ BÁO 58 * Dự báo giá trị trung bình của Y Với: 2.6 DỰ BÁO 59 * Dự báo giá trị cá biệt của Y Với: 2.6 DỰ BÁO 2.7 HỒI QUY VÀ ĐƠN VỊ ĐO CỦA BIẾN Nếu đơn vị đo của biến X, Y thay đổi thì không cần hồi quy lại. Mô hình hồi quy mới là Trong đó 60 61 Theo số liệu quan sát sự biến động của nhu cầu gạo Y (tấn/tháng) vào đơn giá X (ngàn đồng/kg) VÍ DỤ 1 STT X i Y i 1 1 10 2 4 6 3 2 9 4 5 5 5 5 4 6 7 2 a.Hãy lập mô hình hồi quy mẫu biễu diễn mối phụ thuộc về nhu cầu vào đơn giá gạo b.Tìm khoảng tin cậy của  1 ,  2 với  =0,05 c. Hãy xét xem nhu cầu của loại hàng trên có phụ thuộc vào đơn giá của nó không với  =0,05. d. Có thể nói rằng nếu giá gạo tăng 1.000đ/kg thì nhu cầu gạo trung bình giảm 2 tấn/tháng không? Cho với  =0,05 e. Hãy kiểm định sự phù hợp của mô hình. Cho  =0,05. f. Hãy dự báo nhu cầu trung bình và nhu cầu cá biệt của loại hàng trên khi đơn giá ở mức 6.000 đồng/kg với độ tin cậy 95%. g. Hãy viết lại hàm hồi quy nếu nhu cầu gạo được tính theo đơn vị là tạ và giá có đơn vị là đồng. h. Tính TSS, ESS, RSS, R 2 i. Tính r, Cov(X,Y) VÍ DỤ 1 62 a. Mô hình hồi quy mẫu biễu diễn mối phụ thuộc về nhu cầu vào đơn giá gạo VÍ DỤ 1 63 64 Giả sử mô hình hồi quy mẫu là: VÍ DỤ 1 65 Như vậy, mô hình hồi quy mẫu  => X và Y có quan hệ nghịch biến * = 11,5: nhu cầu tối đa là 11,5 tấn/tháng * = -1,375: khi giá tăng 1000 đồng/kg thì nhu cầu trung bình sẽ giảm 1,375 tấn/tháng với điều kiện các yếu tố khác trên thị trường không đổi. VÍ DỤ 1 66 Ta có Mà: => VÍ DỤ 1 67 VÍ DỤ 1 68 VÍ DỤ 1 Ý nghĩa R 2 : Trong hàm hồi quy mẫu, biến giá (biến X) giải thích được 98,64% sự thay đổi của biến nhu cầu (biến Y), 1,36% sự thay đổi còn lại của Y do các yếu tố ngẫu nhiên gây ra Tra bảng ta có 69 c. Kiểm định giả thuyết  2 = 0  H 0 :  2 = 0 C1 : Sử dụng khoảng tin cậy. Theo kết quả ở câu a, với  = 0,05,  2 không thuộc khoảng tin cậy => bác bỏ H 0 C2 : => => Bác bỏ H 0 , hay nhu cầu trung bình có phụ thuộc vào đơn giá VÍ DỤ 1 70 C3 : sử dụng kiểm định F đối với mô hình hai biến Mà F 0,05 (1,4) = 7,71 < F tt => Bác bỏ H 0 , hay nhu cầu trung bình có phụ thuộc vào đơn giá VÍ DỤ 1 71 d. Dự báo Dự báo điểm: (tấn/tháng) Dự báo giá trị trung bình của Y VÍ DỤ 1 72 - Dự báo giá trị cá biệt của Y Vậy, khi đơn giá là 6.000 đồng/kg ở một tháng nào đó thì nhu cầu sẽ dao động từ 2-4,5 tấn. *Ghi chú: VÍ DỤ 1 73 Yi Xi 70 80 65 100 90 120 95 140 110 160 115 180 120 200 140 220 155 240 150 260 VÍ DỤ 2 Cho số liệu chi tiêu tiêu dùng Y (USD/tuần) và thu nhập hàng tuần X (USD/tuần) của 10 hộ gia đình. Giả sử X và Y có quan hệ tuyến tính trong đó Y là biến phụ thuộc 74 Chạy số liệu trên Eviews, ta có kết quả sau VÍ DỤ 2 75 Viết hàm hồi quy Y theo X. Ý nghĩa các hệ số hồi quy Tính khoảng tin cậy của B2. Ý nghĩa của khoảng tin cậy này là gì? Cho độ tin cậy 95%. Nếu thu nhập của hộ gia đình tăng 1 USD/tuần thì chi tiêu trung bình của hộ gia đình có tăng 0.7 USD/tuần không? Cho mức ý nghĩa 5%. Mô hình có phù hợp không? Cho mức ý nghĩa 1%. Dự báo chi tiêu và chi tiêu trung bình của hộ gia đình khi thu nhập là 300 USD/tuần. Cho mức ý nghĩa 5% và X trung bình là 170 USD/tuần. 76 VÍ DỤ 2 Trình bày kết quả phân tích hồi quy Lưu ý