MÔ HÌNH HỒI QUY BỘI 1

30 765 0
MÔ HÌNH HỒI QUY BỘI 1

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

Thông tin tài liệu

BÀI GIẢNG KINH TẾ LƯỢNG ECONOMETRICS Lê Anh Đức Khoa Toán kinh tế ĐH Kinh tế Quốc dân CHƯƠNG III: MƠ HÌNH HỒI QUY BỘI 3.1 Mơ hình hồi quy ba biến 3.2 Các giả thiết mơ hình 3.3 Ước lượng tham số mơ hình hồi quy ba biến 3.4 Phương sai độ lệch chuẩn ước lượng OLS 3.5 Mơ hình hồi quy tuyến tính k biến - phương pháp ma trận 3.6 Ước lượng tham số OLS ˆ 3.7 Ma trận hiệp phương sai β 3.8 Các tính chất ước lượng OLS 3.9 Ước lượng hợp lý tối đa 3.10 Hệ số xác định bội R2 hệ số xác định bội hiệu chỉnh R 3.11 Ma trận tương quan 3.12 Hệ số tương quan riêng phần 3.13 Kiểm định giả thiết khoảng tin cậy hệ số hồi quy riêng – kiểm định T 3.14 Kiểm định giả thiết R2 = 3.15 Kiểm định có điều kiện ràng buộc – Kiểm định F 3.16 Dự báo 3.17 Thí dụ 3.18 Một số dạng hàm hồi quy 3.1 Mơ hình hồi quy ba biến • Xét mơ hình: PRF : E (Y / X 2i , X 3i ) = β1 + β X 2i + β3 X 3i PRM :Yi = β1 + β X 2i + β X 3i + U i (i = ÷ N ) • Trong Y biến phụ thuộc X2i X3i hai biến độc lập β1 hệ số chặn β2, β3 hệ số góc riêng phần (hệ số hồi quy riêng) • Ý nghĩa Hệ số β1 = E(Y/X2i = X3i = 0) giá trị trung bình Y X2i = X3i = β2 = ∂E (Y / X , X ) ∂X β2 cho biết X2 tăng đơn vị trung bình Y thay đổi điều kiện X3 không thay đổi ∂E (Y / X , X ) β3 = ∂X β3 cho biết X3 tăng đơn vị trung bình Y thay đổi điều kiện X2 không thay đổi 3.2 Các giả thiết mơ hình • GT1: Biến độc lập phi ngẫu nhiên • GT2: Kỳ vọng SSNN E(Ui) = ∀ i • GT3: Phương sai SSNN Var(Ui) = Var(Uj) = σ2 ∀ i ≠ j • GT4: Các SSNN không tuơng quan với Cov(Ui ,Uj) = ∀ i ≠ j • GT5: Các SSNN biến độc lập không tương quan với Cov(Ui , X2i) = 0, Cov(Ui , X3i) = ∀ i • GT6: Các saiU : N (0, σ ) có phân phối chuẩn số ngẫu nhiên i • GT7: Các biến giải thích khơng có quan hệ tuyến tính 3.3 Ước lượng tham số mơ hình hồi quy ba biến • Trong tổng thể PRF : E (Y / X 2i , X 3i ) = β1 + β X 2i + β3 X 3i PRM :Yi = β1 + β X 2i + β X 3i + U i (i = ữ N ) ã Trong mu W = { (Yi , X 2i , X 3i ) : i = ÷ n} ˆ ˆ ˆ ˆ SRF :Yi = β1 + β X 2i + β X 3i ˆ ˆ ˆ SRM : Yi = β1 + β X 2i + β X 3i + ei (i = ÷ n) ˆ ˆ ˆ β ,β ,β ước lượng điểm β1,β2,β3 ˆ Yi ước lượng điểm E(Y/X ,X ) 2i 3i ei ước lượng điểm Ui • Phương pháp ước lượng OLS ˆ ˆ ˆ Tìm β1 , β , β3 cho: n n n ˆ ˆ ˆ ˆ ˆ ˆ ˆ RSS = ∑ e = ∑ (Yi − Yi ) = ∑ (Yi − β1 − β X 2i − β X 3i )2 = f ( β1 , β , β ) → Min i =1 i i =1 i =1 ˆ ˆ ˆ • Các hệ số β1 , β , β3 nghiệm hệ n ˆ ˆ ˆ  ∂f ( β1 , β , β3 ) ˆ ˆ ˆ = −2∑ (Yi − β1 − β X 2i − β3 X 3i ) =  ˆ ∂β1 i =1   ∂f ( β , β , β ) n ˆ ˆ ˆ  ˆ ˆ ˆ = −2∑ X 2i (Yi − β1 − β X 2i − β3 X 3i ) =  ˆ ∂β i =1   ∂f ( β , β , β ) n ˆ ˆ ˆ ˆ ˆ ˆ  = −2∑ X 3i (Yi − β1 − β X 2i − β3 X 3i ) = ˆ  ∂β3 i =1  n n n ˆ ˆ ˆ β1n + β2 ∑ X 2i + β3 ∑ X 3i = ∑Yi  i =1 i =1 i =1  n n n ˆ n ˆ ˆ ⇔ β1 ∑ X 2i + β ∑ X 2i + β3 ∑ X 2i X 3i = ∑ X 2iYi i =1 i =1 i =1  i =1 n n n  n ˆ ˆ ˆ β1 ∑ X 3i + β2 ∑ X i X 3i + β3 ∑ X 3i = ∑ X 3iYi i =1 i =1 i =1  i =1 • Ký hiệu n Y = ∑ Yi ; n i =1 yi = Yi − Y n X = ∑ X 2i ; n i =1 x2i = X 2i − X n X = ∑ X 3i ; n i =1 x3i = X 3i − X • Ta có ˆ ˆ ˆ β1 = Y − β X − β3 X n ˆ β2 = n n n i =1 i =1 i =1 i =1 (∑ x2i yi )(∑ x3i ) − (∑ x3i yi )(∑ x3i x2i ) n n n (∑ x )(∑ x ) − (∑ x3i x2i ) i =1 2i i =1 3i i =1 n ˆ β3 = n n n i =1 i =1 i =1 i =1 (∑ x3i yi )(∑ x2i ) − (∑ x2i yi )(∑ x3i x2i ) n n n (∑ x )(∑ x ) − (∑ x3i x2i ) i =1 2i i =1 3i i =1 10 - Ma trận hệ số tương quan  r11 r12 r13   r12 r13   r r r ÷ =  r r ÷ (r = r ∀ i ≠ j ) r =  21 22 23 ÷  21 23 ÷ ij ji r r r ÷ r r ÷  31 32 33   31 32  16 - Hệ số tương quan riêng phần (Partical correlation coefficient) r12,3 = r12 − r13r23 2 (1 − r13 )(1 − r23 ) r13,2 = r13 − r12 r23 2 (1 − r12 )(1 − r23 ) r23,1 = r23 − r12 r13 2 (1 − r12 )(1 − r13 ) + Hệ số r12,3 đo mức độ tương quan tuyến tính Y X2 X3 khơng đổi + Hệ số r13,2 đo mức độ tương quan tuyến tính Y X3 X2 không đổi + Hệ số r23,1 đo mức độ tương quan tuyến tính X2 X3 Y không đổi 17 3.5 Mô hình hồi quy tuyến tính k biến – phương pháp ma trận • Xét mơ hình: PRF : E (Y / X 2i , X 3i , , X ki ) = β1 + β X 2i + β X 3i + + β k X ki PRM :Yi = β1 + β X 2i + β X 3i + + β k X ki + U i (i = ÷ N ) • Trong Y biến phụ thuộc X2i X3i, …,Xki biến độc lập β1 hệ số chặn β2,β3, …, βk hệ số góc riêng phần (hệ số hồi quy riêng) • Giá trị k cho biết: Số biến số tham số cần ước lượng mơ hình 18 • Ý nghĩa Hệ số β1 = E(Y/X2i = X3i = …= Xki = 0) giá trị trung bình Y X2i = X3i = …= Xki = βm = ∂E (Y / X , X , , X k ) (m = ÷ k ) ∂X m βm cho biết Xm tăng đơn vị trung bình Y thay đổi điều kiện biến X j (∀j ≠ m) không thay đổi 19 • Giả sử có n quan sát, quan sát có k giá trị (Yi, X2i, …, Xki) • Ký hiệu  Y1   X 21 Y ÷ 1 X 22 Y = 2÷ X =  ÷   ÷   Yn  n×1  X 2n X k1   β1   U1  β ÷ U ÷ X k ÷ ÷ β = 2÷ U = 2÷  ÷  ÷ ÷ ÷  ÷  ÷ X kn  n× k  β k  k×1  U n nì1 ã Khi ú PRF : E (Y ) = X β PRM : Y = X β + U 20 • Các giả thiết mơ hình GT1: Biến độc lập phi ngẫu nhiên GT2: Kỳ vọng SSNN E(Ui) = ∀ i GT3: Phương sai SSNN Var(Ui) = Var(Uj) = σ2 ∀ i ≠ j GT4: Các SSNN không tuơng quan với Cov(Ui ,Uj) = ∀ i ≠ j GT5: Các SSNN biến độc lập không tương quan với Cov(Ui , Xmi) = ∀ i,m GT6: Các sai số ngẫu nhiên có phân phối chuẩn U i : N (0, σ ) GT7: Các biến giải thích khơng có quan hệ tuyến tính – Ma trận 21 X khơng suy biến 3.6 Ước lượng tham số OLS • Trong tổng thể PRF : E (Y / X 2i , X 3i , , X ki ) = β1 + β X 2i + β X 3i + + β k X ki PRM :Yi = β1 + β X 2i + β X 3i + + β k X ki + U i (i = ữ N ) ã Trong mẫu W = { (Yi , X 2i , X 3i ) : i = ÷ n} ˆ ˆ ˆ ˆ ˆ SRF :Yi = β1 + β X 2i + β X 3i + + β k X ki ˆ ˆ ˆ ˆ ˆ SRM : Yi = β1 + β X 2i + β X 3i + + β k X ki + ei (i = ÷ n) ˆ ˆ ˆ β , β , , β k ước lượng điểm β1,β2,…,βk ˆ Yi ước lượng điểm E(Y/X , X ,…,X ) 2i 3i ki ei ước lượng điểm Ui 22 • Ký hiệu ˆ  Y1   ÷ ˆ  Y2 ÷ ˆ Y= ÷  ÷ Y ÷ ˆ  n  n×1  βˆ1   ÷  βˆ2 ÷ βˆ =  ÷  ÷  βˆ ÷  k  k×1  e1  e ÷ e=  2÷  ÷  ữ en nì1 ã Khi ú SRF : Y = X β ˆ SRM : Y = X β + e 23 • Phương pháp ước lượng OLS ˆ Tìm véc tơ β cho: ˆ ˆ ˆ ˆ ˆ ˆ RSS = eT e = (Y − X β )(Y − X β )T = Y T Y − β T X T Y + β T X T X β = f ( β ) → Min ˆ • Véc tơ β nghiệm hệ ˆ ∂f ( β ) =0 ˆ ∂β ˆ ⇒ β = ( X T X ) −1 X T Y 24 3.7 Ma trận hiệp phương sai ˆ β • Ta có ˆ ˆ ˆ  Var ( β1 ) Cov( β1 , β )  ˆ ˆ ˆ Var ( β ) ˆ ) =  Cov( β , β1 ) Cov( β    Cov( β , β ) Cov( β , β ) ˆ ˆ ˆ ˆ k k  ˆ ˆ Cov( β1 , β k )  ÷ ˆ ˆ Cov( β , β k ) ÷ = σ 2(X T X ) ÷ ÷ ˆ Var ( k ) ữ ã Sai s tiêu chuẩn đường hồi quy T e e ˆ σ = (n − k ) 25 3.8 Các tính chất ước lượng OLS • Tham khảo sách giảng trang 61 • Chú ý: tính chất nêu mơ hình hồi quy biến – mơ hình có hai biến độc lập 26 3.9 Ước lượng hợp lý tối đa ML (Maximum Likelihood) • Ngồi phương pháp OLS người ta sử dụng phương pháp ước lượng hợp lý tối đa để ước lượng hệ số PRF • Kết ước lượng từ hai phương pháp tương tự • Điểm khác biệt n ˆ OLS → σ = ∑e i =1 i n−k ; ˆ E (σ ) = σ n ˆ2 = ML → σ ei2 ∑ i =1 n ; ˆ2) ≠ σ E (σ 27 3.10 Hệ số xác định bội R2 hệ số xác định bội hiệu chỉnh R • Hệ số R2 ˆ ESS RSS β T X T Y − nY eT e R2 = = 1− = = 1− T T TSS TSS Y Y − nY Y Y − nY • Ý nghĩa: R2 cho biết tỷ lệ % biến thiên Y giải thích thơng qua tồn biến độc lập mơ hình 28 • Hệ số xác định bội hiệu chỉnh RSS /(n − k ) n −1 R = 1− = − (1 − R ) TSS /(n − 1) n−k - Mục đích việc hiệu chỉnh để xem xét việc có nên đưa thêm biến giải thích vào mơ hình hay không - Một biến đưa vào mơ hình hệ số biến đưa vào mơ hình có ý nghĩa thống kê hệ số R tăng 29 3.11 Ma trận tương quan • Hệ số tương quan bội R = R 2đo mức độ tương quan tuyến tính chung Y biến giải thích mơ hình • Hệ số tương quan cặp  r11 r r =  21    rk r12 r22 rk r1k   r2 k ÷  r21 ÷=  ÷  ÷  rkk   rk r12 rk r1k  r2 k ÷ ÷(r = r ∀i ≠ j ) ji ÷ ij ÷  - Các hệ số tương quan cặp rij (i,j = 2,3,…,k) cho biết mức độ tương quan tuyến tính biến Xi Xj - Các hệ số tương quan cặp r1j (j = 2,3,…,k) cho biết mức độ tương quan tuyến tính biến Y Xj 30 ... correlation coefficient) r12,3 = r12 − r13r23 2 (1 − r13 ) (1 − r23 ) r13,2 = r13 − r12 r23 2 (1 − r12 ) (1 − r23 ) r23 ,1 = r23 − r12 r13 2 (1 − r12 ) (1 − r13 ) + Hệ số r12,3 đo mức độ tương quan... III: MƠ HÌNH HỒI QUY BỘI 3 .1 Mơ hình hồi quy ba biến 3.2 Các giả thiết mô hình 3.3 Ước lượng tham số mơ hình hồi quy ba biến 3.4 Phương sai độ lệch chuẩn ước lượng OLS 3.5 Mơ hình hồi quy tuyến... R2 = 3 .15 Kiểm định có điều kiện ràng buộc – Kiểm định F 3 .16 Dự báo 3 .17 Thí dụ 3 .18 Một số dạng hàm hồi quy 3 .1 Mô hình hồi quy ba biến • Xét mơ hình: PRF : E (Y / X 2i , X 3i ) = ? ?1 + β X

Ngày đăng: 01/07/2015, 13:45

Từ khóa liên quan

Mục lục

  • BÀI GIẢNG KINH TẾ LƯỢNG ECONOMETRICS

  • CHƯƠNG III: MÔ HÌNH HỒI QUY BỘI

  • Slide 3

  • 3.1. Mô hình hồi quy ba biến

  • Slide 5

  • 3.2. Các giả thiết của mô hình

  • 3.3. Ước lượng các tham số của mô hình hồi quy ba biến

  • Slide 8

  • Slide 9

  • Slide 10

  • 3.4. Phương sai và độ lệch chuẩn của các ước lượng OLS

  • Slide 12

  • Slide 13

  • Slide 14

  • Slide 15

  • Slide 16

  • Slide 17

  • 3.5. Mô hình hồi quy tuyến tính k biến – phương pháp ma trận

  • Slide 19

  • Slide 20

  • Slide 21

  • 3.6. Ước lượng các tham số OLS

  • Slide 23

  • Slide 24

  • 3.7. Ma trận hiệp phương sai của

  • 3.8. Các tính chất của ước lượng OLS

  • 3.9. Ước lượng hợp lý tối đa ML (Maximum Likelihood)

  • 3.10. Hệ số xác định bội R2 và hệ số xác định bội đã hiệu chỉnh

  • Slide 29

  • 3.11. Ma trận tương quan

Tài liệu cùng người dùng

  • Đang cập nhật ...

Tài liệu liên quan