Đang tải... (xem toàn văn)
Chương 5 - Kiểm định và lựa chọn mô hình. Nội dung chính của chương này gồm có: Kì vọng của sai số ngẫu nhiên khác không, phương sai sai số thay đổi, sai số ngẫu nhiên không phân phối chuẩn, vấn đề đa cộng tuyến, mô hình chứa biến không thích hợp.
KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp CHƯƠNG KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Vũ Duy Thành thanhvu.mfe.neu@gmail.com Khoa Toán Kinh tế - Trường Đại học Kinh tế Quốc dân Hà Nội, 2015 Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp Nội dung KÌ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHƠNG PHƯƠNG SAI SAI SỐ THAY ĐỔI SAI SỐ NGẪU NHIÊN KHÔNG PHÂN PHỐI CHUẨN VẤN ĐỀ ĐA CỘNG TUYẾN MƠ HÌNH CHỨA BIẾN KHƠNG THÍCH HỢP Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Toán Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS khơng PP chuẩn Đa cộng tuyến Biến khơng thích hợp Nội dung KÌ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG PHƯƠNG SAI SAI SỐ THAY ĐỔI SAI SỐ NGẪU NHIÊN KHÔNG PHÂN PHỐI CHUẨN VẤN ĐỀ ĐA CỘNG TUYẾN MƠ HÌNH CHỨA BIẾN KHƠNG THÍCH HỢP Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp KÌ VỌNG CỦA SSNN KHÁC KHƠNG Xét mơ hình hồi quy tuyến tính k biến: Y = β1 + β2 X2 + + βk Xk + u Khi đó, GT yêu cầu: E (u|X2 , , Xk ) = GT2 dẫn hai điều kiện: E (u) = cov (Xj , u) = với j = 2, k Nếu hai điều kiện vi phạm GT khơng thỏa mãn Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp NGUN NHÂN - KÌ VỌNG CỦA SSNN KHÁC KHƠNG Có ngun nhân dẫn đến kì vọng sai số ngẫu nhiên khác khơng: Ngun nhân 1: Mơ hình thiếu biến quan trọng Nguyên nhân 2: Dạng hàm sai Nguyên nhân 3: Tính tác động đồng thời số liệu Nguyên nhân 4: Sai số đo lường biến độc lập Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MÔ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến không thích hợp NGUN NHÂN - KÌ VỌNG CỦA SSNN KHÁC KHƠNG Ngun nhân 1: Mơ hình thiếu biến quan trọng Khái niệm Mơ hình gọi thiếu biến Z quan trọng khi: Biến Z khơng có mặt mơ hình Biến Z tác động đến biến phụ thuộc Y Biến Z tương quan với biến độc lập Xj Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp NGUN NHÂN - KÌ VỌNG CỦA SSNN KHÁC KHƠNG Ngun nhân 1: Mơ hình thiếu biến quan trọng Ví dụ Giả sử phân tích nhân tố tác động lên chi tiêu, ta nhận thấy thu nhập nhân tố có tác động đưa vào mơ hình Biến tài sản có tác động lên thu nhập, tài sản có tương quan với thu nhập (do thu nhập cao tài sản có xu hướng cao) Nếu thiếu biến tài sản mơ hình mơ hình thiếu biến quan trọng Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp NGUN NHÂN - KÌ VỌNG CỦA SSNN KHÁC KHÔNG Nguyên nhân 2: Dạng hàm sai Từ mơ hình hồi quy tổng thể có: E (Y |X2 , , Xk ) = β1 + β2 X2 + + βk Xk + E (u|X2 , , Xk ) Khi GT2: E (u|X2 , , Xk ) = thỏa mãn thì: E (Y |X2 , , Xk ) = β1 + β2 X2 + + βk Xk Từ đó, thấy, E (Y |X2 , , Xk ) hàm tuyến tính theo X2 , , Xk Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp NGUN NHÂN - KÌ VỌNG CỦA SSNN KHÁC KHƠNG Ngun nhân 2: Dạng hàm sai Nếu thực tế, E (Y |X2 , , Xk ) có dạng hàm khác: Có dạng bậc cao biến độc lập, chẳng hạn: E (Y |X2 , , Xk ) = β1 + β2 X2 + + βk Xk + γX22 + u Hàm số có dạng biến độc lập kiểu khác, ví dụ như: E (Y |X2 , , Xk ) = β1 + β2 log (X2 ) + + βk log (Xk ) + u Khi đó, GT2 bị vi phạm Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp NGUN NHÂN - KÌ VỌNG CỦA SSNN KHÁC KHƠNG Ngun nhân 3: Tính tác động đồng thời số liệu Xét mơ hình cung cầu hàng hóa: Q D = β1 + β2 P + u Q S = α1 + α2 P + v QD = QS Giả sử, có nhân tố u làm tăng Q D , để đảm bảo cân bằng, Q S tăng, v thay đổi P tăng Do đó, u P có mối tương quan mơ hình cầu Như vậy, GT bị vi phạm Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Toán Kinh tế - Trường Đại học Kinh tế Quốc dân 10 KV SS KHAC PSSS thay đổi SS khơng PP chuẩn Đa cộng tuyến Biến khơng thích hợp SAI SỐ NGẪU NHIÊN KHƠNG PHÂN PHỐI CHUẨN Xét mơ hình hồi quy tuyến tính k biến: Yt = β1 + β2 X2 + + βk Xk + u Theo GT 5, sai số ngẫu nhiên phải có phân phối chuẩn Nếu sai số ngẫu nhiên khơng phân phối chuẩn hậu nào? Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Toán Kinh tế - Trường Đại học Kinh tế Quốc dân 42 KV SS KHAC PSSS thay đổi SS khơng PP chuẩn Đa cộng tuyến Biến khơng thích hợp HẬU QUẢ - SSNN KHÔNG PHÂN PHỐI CHUẨN Khi sai số ngẫu nhiên không phân phối chuẩn dẫn đến số hệ quả: Thống kê t thống kê F làm tảng cho toán ước lượng kiểm định khơng phân phối Student Fisher Khi kích cỡ mẫu nhỏ, ước lượng kiểm định khơng đáng tin cậy Khi kích cỡ mẫu lớn, sai số ngẫu nhiên xấp xỉ phân phối chuẩn nên suy diễn thống kê có giá trị Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 43 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp PHÁT HIỆN - SSNN KHƠNG PHÂN PHỐI CHUẨN Xem xét đồ thị phần dư Xem đồ thị tần suất phần dư (histogram plot) Nếu đồ thị bị lệch hẳn sang trái sang phải dấu hiệu không phân phối chuẩn Nếu đồ thị nhọn dẹt dấu hiệu không phân phối chuẩn Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 44 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp PHÁT HIỆN - SSNN KHƠNG PHÂN PHỐI CHUẨN Kiểm định Jarque - Bera Cặp giả thuyết: H0 : Phần dư u có phân phối chuẩn H1 : Phần dư u không phân phối chuẩn Ước lượng mô hình hồi quy gốc thu phần dư ei Tính tốn giá trị quan sát thống ke Jarque-Bera: JB = n S (K − 3)2 + 24 Trong đó, S hệ số bất đối xứng (skewness) K hệ số bất đối xứng (Kurtosis) phân dư So sánh với giá trị tới hạn Bác bỏ H0 khi: JB > χ2α (2) Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 45 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp PHÁT HIỆN - SSNN KHÔNG PHÂN PHỐI CHUẨN Kiểm định Jarque - Bera EVIEWS Chạy mơ hình ban đầu, [View] → [Residual tests] → [Histogram - Normality test] Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 46 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp Nội dung KÌ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG PHƯƠNG SAI SAI SỐ THAY ĐỔI SAI SỐ NGẪU NHIÊN KHÔNG PHÂN PHỐI CHUẨN VẤN ĐỀ ĐA CỘNG TUYẾN MƠ HÌNH CHỨA BIẾN KHƠNG THÍCH HỢP Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MÔ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 47 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến không thích hợp KHÁI NIỆM ĐA CỘNG TUYẾN Xét mơ hình hồi quy tuyến tính k biến: Yt = β1 + β2 X2 + + βk Xk + u Đa cộng tuyến hoàn hảo xảy biến độc lập có mối quan hệ tuyến tính hay nói cách khác, có biến độc lập biểu diễn (tính) theo số biến độc lập lại thơng qua hàm tuyến tính Đa cộng tuyến cao xảy biến độc lập có liên hệ chặt chẽ với nhóm biến độc lập khác Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MÔ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 48 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến không thích hợp ĐA CỘNG TUYẾN CAO Xét mơ hình hồi quy phụ: Xj = α1 + α2 X2 + + αj−1 Xj−1 + αj+1 Xj+1 + + αk Xk + u Từ mơ hình hồi quy phụ thu hệ số xác địnhRj2 Nếu Rj2 gần biến độc lập lại giải thích cao cho biến Xj hay nói cách khác biến Xj có mối liên hệ (tương quan) cao với biến độc lập lại Nếu có Rj2 = mơ hình có đa cộng tuyến hồn hảo, có Rj2 gần tới mơ hình có tượng đa cộng tuyến cao (j = 2, , k) Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 49 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp NGUN NHÂN CỦA ĐA CỘNG TUYẾN Do chất số liệu, đối tương có quy mơ lớn thường có cách số lớn (chẳng hạn cơng ty lớn có vốn lao động nhiều) nên thân tiêu có mối tương quan cao với Mơ hình dạng đa thức, biến X , X , X thường có tương quan chặt, đặc biệt giá trị X nhỏ Mẫu khơng mang tính đại diện: Nếu số liệu thu thập bị lệch nhóm đối tượng biến số thường có mối tương quan cao với đặc trưng Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 50 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp HẬU QUẢ CỦA ĐA CỘNG TUYẾN Mơ hình có đa cộng tuyến hồn hảo khơng thể ước lượng Mơ hình có đa cộng tuyến cao làm phóng đại se(βˆj ) do: var (βˆj ) = σ2 (1 − Rj2 )( n i=1 xji2 ) Do đó, mơ hình có đa cộng tuyến cao làm khoảng tin cậy βj rộng (kém xác hơn), hệ số ước lượng ý nghĩa thống kê (do t nhỏ đi), dấu hệ số ước lượng ngược với kì vọng (do sai số lớn) biến động mạnh có thay đổi mẫu Tuy nhiên, ước lượng OLS BLUE (do không vi phạm GT nào) Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 51 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp PHÁT HIỆN ĐA CỘNG TUYẾN Để nhận biết mức độ đa cộng tuyến làm cách sau đây: Kiểm tra hệ số tương quan cặp biến độc lâp, có cặp có hệ số tương quan lớn 0.8 coi mơ hình có đa cộng tuyến cao Thực hồi quy phụ, rút Rj2 , Rj2 > 0.6 coi có đa cộng tuyến cao Tính hệ số phóng đại phương sai: VIFj = − Rj2 Nếu VIFj > 2.5 tương đương Rj2 > 0.6 Rj > 0.775 xem có đa cộng tuyến cao Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 52 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp KHẮC PHỤC ĐA CỘNG TUYẾN CAO Để khắc phục đa cộng tuyến cao làm cách sau đây: Nếu se(βˆj ) bé so với βˆj khơng cần bận tâm đến việc mơ hình có đa cộng tuyến cao hay khơng Gia tăng kích cỡ mẫu để làm giảm mức độ đa cộng tuyến Có thể bỏ bớt biến gây đa cộng tuyến cao Tuy nhiên, việc bỏ biến gây hậu nghiêm trọng vấn đề đa cộng tuyến Sử dụng kĩ thuật thống kê đặc biệt khác để xử lý tương quan biến độc lập Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 53 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp Nội dung KÌ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG PHƯƠNG SAI SAI SỐ THAY ĐỔI SAI SỐ NGẪU NHIÊN KHÔNG PHÂN PHỐI CHUẨN VẤN ĐỀ ĐA CỘNG TUYẾN MÔ HÌNH CHỨA BIẾN KHƠNG THÍCH HỢP Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 54 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp HẬU QUẢ CỦA VIỆC SỬ DỤNG BIẾN KHƠNG THÍCH HỢP Các ước lượng OLS ước lượng không chệch (đáng tin cậy) Tuy nhiên, làm phương sai hệ số ước lượng lớn dẫn dến suy diễn ước lượng KTC kiểm định trở nên xác Ngồi ra, sai số hệ số ước lượng lớn làm hệ số ý nghĩa thống kê Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MÔ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 55 KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến không thích hợp PHÁT HIỆN BIẾN KHƠNG THÍCH HỢP Để phát biến khơng thích hợp mơ hình, thực cách sau: Kiểm tra xem biến có ý nghĩa thống kê hay khơng Nếu nghi ngờ từ biến trở lên khơng thích hợp mơ hình sử dụng kiểm định mở rộng (thu hẹp) hàm hồi quy để kiểm tra Khi kiểm tra biến nhóm biến khơng thích hợp nên loại bỏ biến khỏi mơ hình Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân 56 ... Variables Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Toán Kinh tế - Trường Đại học Kinh tế Quốc dân 15 KV SS KHAC PSSS thay đổi SS khơng PP chuẩn Đa cộng tuyến Biến khơng thích hợp PHÁT HIỆN - KÌ... khác Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Toán Kinh tế - Trường Đại học Kinh tế Quốc dân 25 KV SS KHAC PSSS thay đổi SS khơng PP chuẩn Đa cộng tuyến Biến khơng thích hợp NGUYÊN NHÂN -. .. Xj Vũ Duy Thành KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Khoa Tốn Kinh tế - Trường Đại học Kinh tế Quốc dân KV SS KHAC PSSS thay đổi SS không PP chuẩn Đa cộng tuyến Biến khơng thích hợp NGUN NHÂN - KÌ