Chương 4 Mô hình hồi qui đa biến iiii uXXY +++= 33221 βββ iii XbXbbY 33221 ˆ ++= Mô hình hồi qui đa với 2 biến giải thích Hệ số hồi qui cũng được ước lượng thông qua sử dụng phương pháp bình phương bé nhất như trong phân tích hồi qui đơn. Giá trị ước lượng phù hợp của Y trong quan sát thứ i phụ thuộc vào giá trị ước lượng b 1 , b 2 , và b 3 . 11 iiii uXXY +++= 33221 βββ iii XbXbbY 33221 ˆ ++= iiiiii XbXbbYYYe 33221 ˆ −−−=−= Mô hình hồi qui đa với 2 biến giải thích Sai số e i trong quan sát thứ i là sự khác biệt giữa giá trị thực tế và giá trị ước lượng phù hợp của Y. 12 ∑∑ −−−== 2 33221 2 )( iiii XbXbbYeRSS Mô hình hồi qui đa với 2 biến giải thích Chúng ta cũng xác định tổng bình phương của các sai số RSS và lựa chọn b 1 , b 2 , và b 3 làm sao để tối thiểu hóa giá trị này. 13 ∑∑ −−−== 2 33221 2 )( iiii XbXbbYeRSS )2222 22( 323233122133 221 2 3 2 3 2 2 2 2 2 1 2 iiiiii iiiiii XXbbXbbXbbYXb YXbYbXbXbbY +++− −−+++= ∑ ∑∑ ∑∑∑ ∑∑∑∑ ++ +−− −+++= iii iiiii iiii XXbbXbb XbbYXbYXb YbXbXbnbY 3232331 2213322 1 2 3 2 3 2 2 2 2 2 1 2 22 222 2 0 1 = b RSS ∂ ∂ 0 2 = b RSS ∂ ∂ 0 3 = b RSS ∂ ∂ Mô hình hồi qui đa với 2 biến giải thích Đầu tiên, chúng ta triển khai biểu thức RSS và sau đó chung ta sử dụng điều kiện đạo hàm hay vi phân bậc một của biểu thức để tìm cực tiểu. 14 33221 XbXbYb −−= Mô hình hồi qui đa với 2 biến giải thích Chúng ta có 3 phương trình cho 3 tham số chưa biết. Giải phương trình để tìm b 1 , b 2 , và b 3 , Chúng ta có thể có các giá trị của các tham số được tìm như trên. Giá trị của b 3 giống với giá trị của b 2 , với các giá trị của chỉ số 2 và 3 được thay thế lẫn nhau.) 15 ( )( ) ( ) ∑∑ −−− 2 3322 XXYYXX iii ( )( ) ( )( ) ( ) ( ) ( )( ) ( ) 2 3322 2 33 2 22 332233 2 ∑∑∑ ∑∑ −−−−− −−−−− = XXXXXXXX XXXXYYXX b iiii iiii 33221 XbXbYb −−= Mô hình hồi qui đa với 2 biến giải thích 16 ( )( ) ( ) ∑∑ −−− 2 3322 XXYYXX iii ( )( ) ( )( ) ( ) ( ) ( )( ) ( ) 2 3322 2 33 2 22 332233 2 ∑∑∑ ∑∑ −−−−− −−−−− = XXXXXXXX XXXXYYXX b iiii iiii Biểu thức của b 1 được mở rộng một cách trực tiếp từ mô hình hồi qui đơn. 33221 XbXbYb −−= Mô hình hồi qui đa với 2 biến giải thích 17 ( )( ) ( ) ∑∑ −−− 2 3322 XXYYXX iii ( )( ) ( )( ) ( ) ( ) ( )( ) ( ) 2 3322 2 33 2 22 332233 2 ∑∑∑ ∑∑ −−−−− −−−−− = XXXXXXXX XXXXYYXX b iiii iiii Tuy nhiên, biểu thức cho các hệ số hồi qui tương đối phức tạp hơn so với hệ số hồi qui trong mô hình hồi qui đơn. 33221 XbXbYb −−= Mô hình hồi qui đa với 2 biến giải thích 18 ( )( ) ( ) ∑∑ −−− 2 3322 XXYYXX iii ( )( ) ( )( ) ( ) ( ) ( )( ) ( ) 2 3322 2 33 2 22 332233 2 ∑∑∑ ∑∑ −−−−− −−−−− = XXXXXXXX XXXXYYXX b iiii iiii Nhìn chung sẽ rất nhiều biến thì dùng biều biểu thức đại số thông thường là không đủ. Vì thế, cần phải sử dụng biểu thức dạng ma trận. . reg EARNINGS S EXP Source | SS df MS Number of obs = 540 + F( 2, 537) = 67.54 Model | 22513.6473 2 11256.8237 Prob > F = 0.0000 Residual | 89496.5838 537 166.660305 R-squared = 0.2010 + Adj R-squared = 0.1980 Total | 112010.231 539 207.811189 Root MSE = 12.91 EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval] + S | 2.678125 .2336497 11.46 0.000 2.219146 3.137105 EXP | .5624326 .1285136 4.38 0.000 .3099816 .8148837 _cons | -26.48501 4.27251 -6.20 0.000 -34.87789 -18.09213 Mô hình hồi qui đa với 2 biến giải thích Đây là kết quả hồi qui đối với 540 quan sát từ số liệu thực tế. 19 EXPSINGSNEAR 56.068.249.26 ˆ ++−= [...]... độc lập A.6 Yếu tố ngẫu nhiên có phân phối chuẩn Từ mô hình hồi qui đơn đến mô hình hồi qui đa, chúng bắt đầu bằng nhắc lại các giả định của mô hình hồi qui đơn 1 Đặc điểm của hệ số hồi qui đa A.1: Mô hình là tuyến tính trong các tham số và được xác định rõ Y = β + β X + + β X + u 1 2 2 k k A.2: Không có mối quan hệ tương quan chính xác giữa các biến độc lập ở trong mẫu A.3 Yếu tố ngẫu nhiên có kỳ... ngẫu nhiên có phân bố độc lập A.6 Yếu tố ngẫu nhiên có phân phối chuẩn Trong trường hợp các giả định của mô hình có hiệu lực, các ước lượng theo phương pháp bình phương bé nhất trong mô hình hồi qui tổng thể là ước lượng không chệch và hiệu quả giống như mô hình hồi qui đơn 3 Đặc điểm của hệ số hồi qui đa Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 ( X 2 i − X 2 )( Yi − Y ) ∑ ( X 3 i − X... trong mô hình hồi qui đơn 4 Tính chính xác của các hệ số hồi qui Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 2 2 σu σu 1 1 2 σ b2 = × = × 2 2 2 ( X 2 i − X 2 ) 1 − rX 2 , X 3 nMSD( X 2 ) 1 − rX 2 , X 3 ∑ Sự khác biệt ở chổ trong mô hinhf hồi qui đa, biểu thức trên được nhân với yếu tố mà nó phụ thuộc vào hệ số tương quan giữa hai biến X2 và X3 5 Tính chính xác của các hệ số hồi qui Y... Chúng ta đã có một ước tính không có ý nghĩa bởi vì chúng ta có ước tính quá xa từ số liệu thực tế 22 Đặc điểm của hệ số hồi qui đa Đặc điểm của hệ số hồi qui đa A.1: Mô hình là tuyến tính trong các tham số và được xác định rõ Y = β + β X + + β X + u 1 2 2 k k A.2: Không có mối quan hệ tương quan chính xác giữa các biến độc lập ở trong mẫu A.3 Yếu tố ngẫu nhiên có kỳ vọng bằng 0 A.4 Yếu tố ngẫu nhiên... nhau 2 Tính chính xác của các hệ số hồi qui Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 2 2 σu σu 1 1 2 σ b2 = × = × 2 2 2 ( X 2 i − X 2 ) 1 − rX 2 , X 3 nMSD( X 2 ) 1 − rX 2 , X 3 ∑ Yếu tố đầu tiên trong biểu thức phương sai của b2 hoàn toàn giống phương sai của b2 trong hệ số hồi qui của mô hình hồi qui đơn 3 Tính chính xác của các hệ số hồi qui Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y =... số hồi qui trong mô hình 2 biến giải thích 1 Tính chính xác của các hệ số hồi qui Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 2 2 σu σu 1 1 2 σ b2 = × = × 2 2 2 ( X 2 i − X 2 ) 1 − rX 2 , X 3 nMSD( X 2 ) 1 − rX 2 , X 3 ∑ Biểu thức phương sai của b2 như được chỉ ra Biểu thức cho phương sai của b3 là hoàn toàn giống với chỉ số 2 và 3 được thay thế cho nhau 2 Tính chính xác của các hệ số hồi. .. thiết A.2 là khác Trước đây, giả thiết phát biểu rằng cần có sự thay đổi trong biến X Chúng ta sẽ giải thích sự khác nhau qua các slide sau 2 Đặc điểm của hệ số hồi qui đa A.1: Mô hình là tuyến tính trong các tham số và được xác định rõ Y = β + β X + + β X + u 1 2 2 k k A.2: Không có mối quan hệ tương quan chính xác giữa các biến độc lập ở trong mẫu A.3 Yếu tố ngẫu nhiên có kỳ vọng bằng 0 A.4 Yếu tố... ( X 3 i − X 3 ) + ui − u b2 = β 2 + ∑ a i*2 ui Giá trị này cũng đồng nhất với kết quả trong mô hình hồi qui đơn Sự khác nhau thể hiện ở biểu thức kết hợp của các yếu tố ngẫu nhiên trong mẫu và điều này phụ thuộc vào giá trị của X2 và X3 trong mẫu Và yếu tố này tương đối phức tạp 7 Đặc điểm của hệ số hồi qui đa Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 ( X 2 i − X 2 )( Yi − Y ) ∑ ( X... của hệ số hồi qui đa Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 b1 = Y − b2 X 2 − b3 X 3 = ( β 1 + β 2 X 2 + β 3 X 3 + u ) − b2 X 2 − b3 X 3 E (b1 ) = β 1 + β 2 X 2 + β 3 X 3 + E ( u ) − X 2 E (b2 ) − X 3 E (b3 ) = β1 + β 2 X 2 + β 3 X 3 − X 2 β 2 − X 3 β 3 = β1 Vì thế, b1 là ước lượng không chệch của β 1 15 Tính chính xác của các hệ số hồi qui Tính chính xác của các hệ số hồi qui Y =... ˆ EARNINGS = −26.49 + 2.68 S + 0.56 EXP Theo lý thuyết, hệ số chặn chỉ ra rằng cá nhân không đến trường và không có kinh nghiệm làm việc sẽ có thu nhập trên giờ –$26.49 21 Mô hình hồi qui đa với 2 biến giải thích reg EARNINGS S EXP Source | SS df MS -+ -Model | 22513.6473 2 11256.8237 Residual | 89496.5838 537 166.660305 -+ -Total | 112010.231 . hệ số hồi qui đa uXXY kk ++++= βββ 221 1 Từ mô hình hồi qui đơn đến mô hình hồi qui đa, chúng bắt đầu bằng nhắc lại các giả định của mô hình hồi qui đơn Chương 4 Mô hình hồi qui đa biến iiii uXXY +++= 33221 βββ iii XbXbbY 33221 ˆ ++= Mô hình hồi qui đa với 2 biến giải thích Hệ số hồi qui cũng được