CHƯƠNG 3 CHƯƠNG 3 HỒI QUY ĐA BIẾN HỒI QUY ĐA BIẾN 2 1. Bi t đ c ph ng pháp c ế ượ ươ ướ l ng bình ph ng nh nh t ượ ươ ỏ ấ đ c l ng hàm h i quy đa ể ướ ượ ồ bi n t ng th d a trên s li u ế ổ ể ự ố ệ m uẫ 2. Hi u các cách ki m đ nh ể ể ị nh ng gi thi tữ ả ế M C Ụ TIÊU HỒI QUY Đ HỒI QUY Đ A A BIẾN BIẾN NỘI DUNG Mô hình hồi quy 3 biến 1 Mô hình hồi quy k biến 2 5 3 3 Dự báo 4  Mô hình hồi quy tổng thể PRF Ý nghĩa: PRF cho biết trung bình có điều kiện của Y với điều kiện đã biết các giá trị cố định của biến X 2 và X 3.  Y: biến phụ thuộc  X 2 và X 3 : biến độc lập  β 1 : hệ số tự do  β 2 , β 3 : hệ số hồi quy riêng 3322132 ),/( XXXXYE βββ ++= 3.1 Mô hình hồi quy 3 biến 5 Ý nghĩa hệ số hồi quy riêng: cho biết ảnh hưởng của từng biến độc lập lên giá trị trung bình của biến phụ thuộc khi các biến còn lại được giữ không đổi.  Mô hình hồi quy tổng thể ngẫu nhiên: u i : sai số ngẫu nhiên của tổng thể iiii uXXY +++= 33221 βββ 3.1 Mô hình hồi quy 3 biến 6 Các giả thiết của mô hình 1. Giá trị trung bình của U i bằng 0 E(U i /X 2i, X 3i )=0 2. Phương sai của các U i là không đổi Var(U i )=σ 2 3. Không có hiện tượng tự tương quan giữa các U i Cov(U i ,U j )=0; i≠j 4. Không có hiện tượng cộng tuyến giữa X 2 và X 3 5.U i có phân phối chuẩn: U i N(0, σ 2 ) 1. Giá trị trung bình của U i bằng 0 E(U i /X 2i, X 3i )=0 2. Phương sai của các U i là không đổi Var(U i )=σ 2 3. Không có hiện tượng tự tương quan giữa các U i Cov(U i ,U j )=0; i≠j 4. Không có hiện tượng cộng tuyến giữa X 2 và X 3 5.U i có phân phối chuẩn: U i N(0, σ 2 ) 7 Hàm hồi quy mẫu: iii YYe ˆ −= sai số của mẫu ứng với quan sát thứ i 3.1.1 Ước lượng các tham số Sử dụng phương pháp bình phương nhỏ nhất để ước lượng các tham số 321 ˆ , ˆ , ˆ βββ iiii eXXY +++= 33221 ˆˆˆ ˆ βββ 8 ∑∑ →−−−== min) ˆˆˆ ( 2 33221 2 iiii XXYeQ βββ ∑ =−−−−= 0) ˆˆˆ (2 ˆ 33221 1 iii XXY d dQ βββ β ∑ =−−−−= 0))( ˆˆˆ (2 ˆ 233221 2 iiii XXXY d dQ βββ β ∑ =−−−−= 0))( ˆˆˆ (2 ˆ 333221 3 iiii XXXY d dQ βββ β 3.1.1 Ước lượng các tham số 9 2 32 2 3 2 2 323 2 32 2 )( ˆ ∑∑ ∑ ∑ ∑ ∑ ∑ − − = iiii iiiiiii xxxx xxxyxxy β 2 32 2 3 2 2 322 2 23 3 )( ˆ ∑∑ ∑ ∑ ∑ ∑ ∑ − − = iiii iiiiiii xxxx xxxyxxy β ii XXY 33221 ˆˆˆ βββ −−= YYy ii −= XXx ii −= 3.1.1 Ước lượng các tham số 10 2 2 32 2 3 2 2 2 3 2 )( ) ˆ ( σβ ∑∑ ∑ ∑ − = iiii i xxxx x Var 2 2 32 2 3 2 2 2 2 3 )( ) ˆ ( σβ ∑∑ ∑ ∑ − = iiii i xxxx x Var 3 )1( 3 ˆ 222 2 − − = − = ∑∑ n yR n e ii σ 3.1.2 Phương sai của các ước lượng σ 2 là phương sai của u i chưa biết nên dùng ước lượng không chệch: 2 2 32 2 3 2 2 3232 2 2 2 3 2 3 2 2 1 ) )( 2 1 () ˆ ( σβ ∑∑ ∑ ∑ ∑ ∑ − −+ += iiii iiii xxxx xxXXxXxX n Var [...]... F > Fα(2, n -3) : Bác bỏ H0: Mô hình phù hợp F ≤ Fα(2, n -3) : Chấp nhận H0: Mô hình không phù hợp 15 3. 2 Mô hình hồi quy k biến Mô hình hồi quy tổng thể E (Y / X 2 , X k ) = β1 + β 2 X 2i + + β k X ki Mô hình hồi quy mẫu ngẫu nhiên: ˆ ˆ ˆ ˆ Yi = β1 + β 2 X 2i + + β k X ki + ei sai số của mẫu ứng với quan sát thứ i ˆ ˆ ˆ ˆ ˆ ei = Yi − Yi = Yi − β1 − β 2 X 2i − β 3 X 3i − − β k X ki 16 3. 2.1 Ước lượng... x2i + β 3 ∑ yi x3i Mô hình hồi quy 3 biến R 2 = yi2 ∑ Hệ số xác định hiệu chỉnh Với k là tham số của mô hình, R 2 = kể cả hệ số tự do ∑ ei2 ∑ yi2 (n − k ) ( n − 1) 11 Hệ số xác định hiệu chỉnh n −1 R = 1 − (1 − R ) n−k 2 2 Dùng R 2 để xét việc đưa thêm 1 biến vào mô hình Biến mới đưa vào mô hình phải thỏa 2 điều kiện: 2 - Làm R tăng - Hệ số hồi quy biến mới thêm vào mô hình khác 0 có ý nghĩa 12 3. 1.4... )t ( n 3, α / 2 ) 13 3.1.5 Kiểm định giả thiết 1 Kiểm định giả thiết H0: β = β * i i ˆ − β* βi B1 Tính i ti = ˆ SE ( β i ) B2 Nguyên tắc quy t định Nếu |ti | > t(n -3, α/2): bác bỏ H0 Nếu |ti | ≤ t(n -3, α/2) : chấp nhận H0 14 3. 1.5 Kiểm định giả thiết 2 Kiểm định giả thiết đồng thời bằng không: H0: β2 = 3 = 0; (H1: ít nhất 1 tham số khác 0) B1 Tính 2 R ( n − 3) F = 2 (1 − R ) 2 B2 Nguyên tắc quy t định... ˆ ˆ ˆ ˆ ei2 = ∑ Yi − β1 − β 2 X 2i − β 3 X 3i − − β k X ki → min ∑ n ∂ ∑ ei2 i =1 ∂β 1 n ( ) ( ) ( ) ˆ ˆ ˆ ˆ = −2∑ Yi − β1 − β 2 X 2i − β 3 X 3i − − β k X ki = 0 i =1 n ∂ ∑ ei2 i =1 ∂β 2 n ˆ ˆ ˆ ˆ = −2∑ Yi − β1 − β 2 X 2i − β 3 X 3i − − β k X k ,i X 2i = 0 i =1 n ∂ ∑ ei2 i =1 ∂β k n ˆ ˆ ˆ ˆ = −2∑ Yi − β1 − β 2 X 2i − β 3 X 3i − − β k X ki X ki = 0 i =1 17 3. 2.2 Khoảng tin cậy Với mức ý nghĩa α... 3. 2 .3 Kiểm định các giả thiết hồi quy 1 Kiểm định giả thiết về hệ số hồi quy Kiểm định giả thiết H0: B1.Tính βi = β * i ˆ − β* βi i ti = ˆ SE ( β i ) B2 Nguyên tắc quy t định Nếu |ti | > t(n-k,α/2) : bác bỏ H0 Nếu |ti | ≤ t(n-k,α/2) : chấp nhận H0 21 3. 2.4 Kiểm định các giả thiết hồi quy 2 Kiểm định sự phù hợp của mô hình: kiểm định giả thiết đồng thời bằng không: H0: β2 = 3 =…= βk = 0; (H1: ít nhất... )(k − 1) B1 Tính B2 Nguyên tắc quy t định: Nếu F > Fα(k-1, n-k): Bác bỏ H0: Mô hình phù hợp Nếu F ≤ Fα(k-1, n-k): Chấp nhận H0: Mô hình không phù hợp 22 3. 3 DỰ BÁO Mô hình hồi quy ˆ ˆ ˆ ˆ Yi = β1 + β 2 X 2 + + β k X k 1   0 0 X2  Cho trước giá trị X =    0 Xk    Dự báo giá trị trung bình và giá trị cá biệt của Y với mức ý nghĩa α hay độ tin cậy 1 - α 23 3 .3 DỰ BÁO * Ước lượng điểm ˆ ˆ... ∑ yi x2i + β 3 ∑ yi x3i + + β k ∑ yi xki 2 R = 2 ∑ yi Hệ số xác định hiệu chỉnh n −1 R = 1 − (1 − R ) n−k 2 2 Với k là tham số của mô hình, kể cả hệ số tự do 19 Hệ số xác định hiệu chỉnh n −1 R = 1 − (1 − R ) n−k 2 Dùng R để xem xét việc đưa thêm biến vào mô hình Biến mới đưa vào mô hình phải thỏa 2 điều kiện: 2 2 - Làm R 2 tăng - Biến mới có ý nghĩa thống kê trong mô hình mới 20 3. 2 .3 Kiểm định các... 2 + + β k X k * Dự báo giá trị trung bình của Y ˆ ˆ E (Y / X 0 ) ∈ (Y0 − ε 0 ;Y 0+ε 0 ) Với: ˆ ε 0 = SE (Y0 )t ( n − k ,α / 2 ) ˆ ˆ SE (Y0 ) = Var (Y0 ) ˆ ˆ Var (Y0 ) = σ 2 X 0T ( X T X ) −1 X 0 24 3. 3 DỰ BÁO * Dự báo giá trị cá biệt của Y ˆ − ε ' ;Y +ε ' ) ˆ Y0 ∈ (Y0 0 0 0 Với: ˆ ε = SE (Y0 − Y0 )t( n − k ,α / 2 ) ' 0 ˆ ˆ SE (Y0 − Y0 ) = Var (Y0 − Y0 ) ˆ ) = Var (Y ) + σ 2 ˆ ˆ Var (Y0 − Y0 0 25 . ị nh ng gi thi tữ ả ế M C Ụ TIÊU HỒI QUY Đ HỒI QUY Đ A A BIẾN BIẾN NỘI DUNG Mô hình hồi quy 3 biến 1 Mô hình hồi quy k biến 2 5 3 3 Dự báo 4  Mô hình hồi quy tổng thể PRF Ý nghĩa: PRF cho. định của biến X 2 và X 3.  Y: biến phụ thuộc  X 2 và X 3 : biến độc lập  β 1 : hệ số tự do  β 2 , β 3 : hệ số hồi quy riêng 33 22 132 ),/( XXXXYE βββ ++= 3. 1 Mô hình hồi quy 3 biến 5 Ý. 0))( ˆˆˆ (2 ˆ 233 221 2 iiii XXXY d dQ βββ β ∑ =−−−−= 0))( ˆˆˆ (2 ˆ 33 3221 3 iiii XXXY d dQ βββ β 3. 1.1 Ước lượng các tham số 9 2 32 2 3 2 2 32 3 2 32 2 )( ˆ ∑∑ ∑ ∑ ∑ ∑ ∑ − − = iiii iiiiiii xxxx xxxyxxy β 2 32 2 3 2 2 32 2 2 23 3 )( ˆ ∑∑ ∑ ∑ ∑ ∑