Chủ đề 1: MƠ HÌNH HỒI QUI ĐƠN VẤN ĐỀ ƯỚC LƯỢNG I PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU THÔNG THƯỜNG (OLS) Ta nhắc lại hàm PRF hai biến: Yi =β1 +β Xi +U i Tuy nhiên, lưu ý Chương 1, hàm PRF quan sát trực tiếp Ta ước lượng từ haøm SRF: Y = βˆ + βˆ X + e i Hay: i i ˆ +e Yi =Y i i I PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU THÔNG THƯỜNG (OLS) Nhưng ta xác định hàm SRF nào? Để thấy điều này, ta tiến hành sau Đầu tiên, ta biểu thị SRF thaønh : ˆ ei =Yi -Y i =Yi -βˆ -βˆ Xi I PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU THÔNG THƯỜNG (OLS) Y     e 1       e3      e      e   ˆ i  ˆ  ˆ X i Y X X1 X2 X3 X4 I PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU THÔNG THƯỜNG (OLS) Theo nguyên lý phương pháp OLS để tìm SRF, phải cực tiểu tổng bình phương phần dư, có nghóa 2là: ˆ e = (Y -Y ) �i � i i = �(Yi -βˆ -βˆ Xi )2 � Min Chúng ta xem tổng bình $ dư hàm $ phương β phần β theo Nghóa là: I PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU THÔNG THƯỜNG (OLS) ˆ ,βˆ ) e =f(β � 2 i Quá trình vi phân cho phương trình $ lượng $ ước sau để : β β ˆ +βˆ Y =nβ � i �Xi ˆ ˆ �Yi Xi =β1 �Xi +β2 �Xi I PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU THÔNG THƯỜNG (OLS) Trong đó: n cỡ mẫu Phương trình gọi cáùc phương trình chuẩn Giải hệ phương trình chuẩn này, ta thu được: βˆ = Y - βˆ X Vaø: βˆ = n �Xi Yi -�Xi �Y i n �X i -(�X i ) 2 (X -X)(Y -Y) �x y � = = �(X -X) �x i i i i i i II CÁC TÍNH CHẤT CỦA PHƯƠNG PHÁP OLS   - SRF qua giá trị trung bình mẫu Y X - Giá trị trung bình Y ước lượng giá trị trung bình ˆ thực Nghóa là: Y =YY - Giá trị trung bình cáceiphần dư - Các phầnedư không tương quan i với Yi ước lượng Nghóa là: �ei Y�i =0 II CÁC TÍNH CHẤT CỦA PHƯƠNG PHÁP OLS - Các phần không tương ei dư quan X i =0 Xi, nghóa là: �eivới $ ,β $ ứng với n cặp -β quan sát cho trước $ ,β $ -β ước lượng điểm 1 , 2 đại lượng ngẫu nhiên III CÁC GIẢ THIẾT CỦA PHƯƠNG PHÁP OLS Giả thiết 1: Mô hình hồi quy tuyến tính Mô hình hồi quy tuyến tính theo thông số Giả thiết 2: Các giá trị X cố định việc lấy mẫu lập lại Các giá trị rút biến hồi qui độc lập X coi cố định mẫu lập lại Nói rõ hơn, X giả thiết không ngẫu nhiên Giả thiết 3: Giá trị trung bình không nhiễu Ui Cho trước giá trị X, giá trị trung bình hay kỳ vọng E(U i Xrõ i ) số hạng nhiễu Ui Nói hơn, giá trị trung bình có điều kiện Ui 100 IV TÍNH CHÍNH XÁC HAY LÀ CÁC SAI SỐ CHUẨN CỦA CÁC ƯỚC LƯNG BÌNH PHƯƠNG TỐI THIỂU 2 Trong đó: ước lượng không σ chệch σˆ 2 Do đó, tính toán thường σngười ta σˆ thay Khi đó, phương sai sai số chuẩn ước lượng ước lượng � $ OLS là:  σ � ˆ ) =� = Var(β �2 x �i � ˆ )= �  � se(β �  2 x �i 2 X X � i � ˆ )=� = � i σ$ � se(β � � � ˆ Var(β )=    � 1 1 n �xi2 n �xi2 �  22 V HỆ SỐ XÁC ĐỊNH (r2 ) : ĐẠI LƯNG ĐO “SỰ THÍCH HP” Trước rõ r2 tính ta xét giải thích có tính khai phá r2 đồ thị, phương pháp đồ thị Venn, Ballentine, hình 2.5 sau Quan điểm Ballentine r2: (a) r2 = 0; (f) r2 = 1  23 V HỆ SỐ XÁC ĐỊNH (r2 ) : ĐẠI LƯNG ĐO “SỰ THÍCH HP” Để tính r2, ta làm Y sau: Yi �i ) (Yi -Y (Yi -Y) �i Y SR F �i -Y) (Y Y X Xi X 24 V HỆ SỐ XÁC ĐỊNH (r2 ) : ĐẠI LƯNG ĐO “SỰ THÍCH HP” - Gọi TSS :độ lệch tổng cộng giá trị thực Y so với trung bình mẫu chúng, gọi tổng bình phương 2 toàn phần.2   TSS= �yi = �(Yi -Y) = �Yi -n Y - Gọi RSS : Tổng bình phương tất sai lệch giá trị ước lượng Y với trung bình chúng 2 ˆ ˆ ˆ RSS  �yˆ  �(Yi  Y )  �(Yi  Y )  ˆ22 �xi2 i 25 V HEÄ SỐ XÁC ĐỊNH (r2 ) : ĐẠI LƯNG ĐO “SỰ THÍCH HP” Gọi RSS: biến thiên không giải thích giá trị Y với đường hồi quy, hay đơn giản tổng bình phương phần dư �i ) ESS  �ei2 = �(Yi -Y Người ta chứng minh rằng: TSS = ESS + RSS 26 V HỆ SỐ XÁC ĐỊNH (r2 ) : ĐẠI LƯNG ĐO “SỰ THÍCH HP” Ta định nghóa r2 là: Hay ta viết: ˆ ( Y RSS � i Y ) r   TSS �(Yi  Y ) e ESS � r  1  1 TSS �(Yi  Y ) 2 i 27 V HỆ SỐ XÁC ĐỊNH (r2 ) : ĐẠI LƯNG ĐO “SỰ THÍCH HP” Ta lưu ý tính chất r2: - Nó số không âm (Tại sao?) �r �1 - Giới hạn r2 ˆ Y nghóa hoàn Ytoàn phù hợp, nghóa i i ˆ2  r2 = với i Ở đầu khác, nghóa dù (nghóa ) liên quan biến hồi qui phụ thuộc biến 28 hồi qui độc lập VI HỆ SỐ TƯƠNG QUAN MẪU (r) Hệ số tương quan đo mức độ kết hợp tuyến tính hai biến Nó xác định theo công thức sau: ( X i  X )(Yi  Y ) � rX ,Y  2 � � � � ( X  X ) ( Y  Y ) � � i i � �� �  �x y (�x )(�y ) i i i i 29 VI HỆ SỐ TƯƠNG QUAN MẪU (r) Giữa hệ số tương quan hệ số xác định có mối quan hệ với Chúng ta tính hệ số tương quan theo cách sau: r�r - Dấu r phụ thuộc vào dấu tử số hay dấu hệ số góc Chú ý: Giá trị số quan hệ gần, khái niệm, r2 khác 30 xa với hệ số tương quan VI HỆ SỐ TƯƠNG QUAN MẪU (r) Y Y Y r = -1 r = +1 r gaàn tới +1 Một vài tính chất r sau (xem X X X (a) (b) (c) hình 3.6): Y Y Y r dương gần r gần tới -1 (d) X (e) Y X X X (f) Y Y =X nhöng r = r=0 (g) r âm gần (h) X 31 VI HỆ SỐ TƯƠNG QUAN MẪU (r) Một vài tính chất r sau (xem hình 3.6): - r dương âm, dấu r phụ thuộc vào dấu số hạng tử số - r nằm từ –1 đến +1 , nghóa �r �1 là: - Bn chất r đối xứng ; nghóa hệ số tương quan X Y (rXY ) hệ số Y 32 X (rYX ) VI HỆ SỐ TƯƠNG QUAN MẪU (r) Một vài tính chất r sau (xem - Nếu X Y làhình độc3.6): lập theo quan điểm thống kê, hệ số tương quan chúng 0; r = 0, điều nghóa hai biến độc lập Nói cách khác, sốlượng tươngđoquan zero không - r hệ đại kết hợp tuyếnngụ tính ý độc lập (xem 3.6(h)) haylà làcó phụtính thuộc tuyến tính; hình r ý nghóa để mô tả quan hệ phi tuyến tính Vì vậy, hình 3.6(h), Y = X2 quan hệ 33 xác r = (Tại sao?) VI HỆ SỐ TƯƠNG QUAN MẪU (r) Một vài tính chất r sau (xem 3.6): - Mặc dù r đạihình lượng đo kết hợp tuyến tính hai biến, r không ngụ ý có mối liên quan nhân  Trong nội dung hồi quy, r2 đại lượng có đủ ý nghóa r, cho ta biết tỷ lệ độ biến thiên biến phụ thuộc giải thích (các) biến giải thích đó, cho ta thước đo toàn diện phạm vi mà độ biến thiên biến 34 xác định độ biến thiên biến VII PHÂN PHỐI XÁC SUẤT CỦA CÁC ƯỚC LƯNG OLS Giả U i : N (0,  ) thiết 11: ước lượng OLS tự chúng Khi có tính chất sau: - BLUE �   � Z  2 : N (0,1) �2 : N (  ,  �2 )  � 2 �1 : N ( 1 ,  �2 ) �1  1 �Z  : N (0,1)  � 35 VII PHÂN PHỐI XÁC SUẤT CỦA CÁC ƯỚC LƯNG OLS � (n  2) 2   :  (n  2)  Yi : N ( 1   X i ,  ) 36 ... n cặp -β quan sát cho trước $ ,β $ -β ước lượng điểm 1 , 2 đại lượng ngẫu nhiên III CÁC GIẢ THIẾT CỦA PHƯƠNG PHÁP OLS Giả thiết 1: Mô hình hồi quy tuyến tính Mô hình hồi quy tuyến tính theo... toàn biến giải 18 thích.  III CÁC GIẢ THIẾT CỦA PHƯƠNG PHÁP OLS Định lý Gauss-Markov: Cho trước giả thiết mô hình hồi quy tuyến tính cổ điển, hàm ước lượng bình phương tối thiểu, nhóm hàm ước lượng. .. SỐ CHUẨN CỦA CÁC ƯỚC LƯNG BÌNH PHƯƠNG TỐI THIỂU 2 Trong đó: ước lượng không σ chệch σˆ 2 Do đó, tính toán thường σngười ta σˆ thay Khi đó, phương sai sai số chuẩn ước lượng ước lượng � $ OLS là: