Tính tốn ước lượng phương pháp Bình phương tối thiểu (OLS) Ordinary Least Square (OLS) Phương pháp bình phương tối thiểu [Ví dụ trước] Xem xét quan sát X Y 3 4.5 5.5 10 11  Mục đích tìm kiếm đường thẳng “tốt nhất” mơ hình tuyến tính : tìm kiếm β1_mu, β2_mu Yi = β1_mu + β2_mu.X2i + ei Ví dụ [Ví dụ trước] Xem xét quan sát X 4.5 5.5 xác định βˆ1 Y 10 11 βˆ2 Định nghĩa yi = β1 + β x2 i + ε i εi sai số yˆ i = βˆ1 + βˆ x i βˆ hàm hồi quy ngẫu nhiên hệ số ước lượng giá trị dự báo, hồi quy mẫu ei yi = βˆ1 + βˆ2 x2 i + ei số dư giá trị quan sát yi = βˆ1 + βˆ2 x2i + ei = yˆ i + ei  ý tưởng tối thiểu tổng bình phương độ lệch. yi = βˆ1 + βˆ2 x2i + ei = yˆ i + ei RSS = n e ∑ i i =1 n ( [ RSS = ∑ yi − βˆ1 + βˆ2 x2i i =1 ]) Bài tốn tối thiểu*  Vi phân hàm mục tiêu F.O.C w.r.t. β1 → w.r.t. β2 →  Ta hệ phương trình chuẩn:  Giải hệ ta được: Ước lượng OLS  Cơng thức ước lượng OLS β1 and β2  β2_mu = Cov(X,Y) / Var(X) β _mu = Y_mean - β _mu * X_mean n βˆ = ∑(x i =1 i n − x )( y i − y ) ∑ ( xi i =1 − x) βˆ1 = y − βˆ x n = ∑x y i =1 n i i − nx y 2 x − n x ∑ i i =1 Hệ   Trong hồi quy đơn, dấu β _mu = dấu hệ số tương quan X Y.  Mọi đường thẳng hồi quy qua giá trị trung bình (X_mean, Y_mean), số đưa vào.  Mọi tổng số dư ln ln zero, số đưa vào. Ước lượng OLS β1 and β2 ƯL tốt (khơng chệch hội tụ)  Khác . Đặc điểm ( ) Var βˆ2 = σ n ε ∑( x − x) i i βˆ1 − β σˆ βˆ     x  Var βˆ1 = σ ε2  + n n  ( xi − x )   ∑ i   ( ) 10 DỰ BÁO BẰNG MƠ HÌNH HỒI QUY   Khi thêm biến.  R-bình phương ln ln tăng.  RSS ln ln giảm. Đo lường để chọn lọc mơ hình  Adjusted R-bình phương  AIC or BIC 29 Mơ hình hồi quy tuyến tính đơn kiểm định giả thiết - Kiẻm định phù hợp mơ hình Tính tốn R2 /1 F* = = T * − R / ( n − 2) ( ) Xem bảng phân phối Fisher Fα tương ứng với mức α. So sánh F* Fa 09/16/15 F* < Fα (H0) chấp nhận : R2 = F* ≥ Fα (H0) bị bác bỏ : R2 ≠ 30 yi = β1 + β x2i + ε i n βˆ = ∑(x i =1 i − x )( y i − y ) n ∑(x i =1 i − x) n = ∑x y i =1 n i ∑x i =1 i i − nx y − nx βˆ1 = y − βˆ x yi = βˆ1 + βˆ2 x2i + ei = yˆ i + ei 31 Giả thiết cổ điển I. Tuyến tính  II. khơng, mơ hình phi tuyến khơng thể giải mơ hình Trung bình Zero:  III. E(εi) = khơng, mơ hình khơng xác Khơng có tương quan sai số biến độc lập: Cov(xi, εi) =  khơng, tồn phương trình đồng thời 32 Giả thiết cổ điển IV. Khơng có tượng tự tương quan sai số: Cov(εi, εj) = • khơng, GLS (chuỗi thời gian) (Bài sau) V. Đồng đẳng: Var(εi) = σ2 • khơng, sử dụng phương pháp GLS (Bài sau) VI. Sai số phân phối chuẩn • khơng, sai số tn theo phân phối khơng chuẩn v 33 Các dạng hàm yˆ i = βˆ1 + βˆ x 2i yi = β1 + β x2i + ε i yi = βˆ1 + βˆ2 x2i + ei 34 Trong tα/2 giá trò ĐLNN T: T ∼ T(n-2) thỏa ĐK: P(|T|> tα/2) = α α/2 1-α α/2 -tα/2 tα/2 ta0 có thểtα/2tra bảng Để xác đònh dùng hàm TINV Excel 35 6- Khoảng tin cậy β ; β 2; σ Với độ tin cậy 1- α , KTC β là: ˆβ ± t ˆ . se ( β ) α/2 36 Khoảng tin cậy β là: ˆ ˆ β1 ± tα / se( β1 ) Khoảng tin cậy σ là:  (n − 2)σˆ  ˆ ( n − ) σ   ≤ σ ≤  χ2  χ α / 1− α / 37   ˆ ∼ N( β , σ β1 ˆ ) β ˆ - β 1)/σ ˆ ∼ N(0, 1) Suy Z = ( β β ˆ  β ∼ N(β , σ )  βˆ ˆ - β 2)/σβˆ ∼ N(0, 1) suy Z = ( β 2 ˆ / σ ∼ χ (n-2)  (n-2) σ  Yi ∼ N(β + β 2Xi; σ 2) 38 Y Yi Y^i Y •M RSS N • • • • • • • SRF • • • ESS • • • TSS K Xi X 39 ª Nếu p < α bác bỏ giả thiết H0 Nếu p ≥ α chấp nhận giả thiết H0 ª (α mức ý nghóa) 40 Bài tốn kiểm định giả thuyết tham số Ví dụ giả thuyết muốn kiểm định: β2 = α2 se (1.5) (0.5) (0.02) ˆ − 1.7 − β Muốn t qs = kiểm =định: = 1.1 Khơng bác bỏ H0  ˆ giúp 1.5 Quảng cáo se trên( tivi ) tăng lợi nhuận? β 43 Bảng tóm tắt cặp giả thuyết miền bác bỏ Loại giả thuyết H1 Miền bác bỏ β i ≠ β i* t > t α/2(n - k) or t < - tα/2(n - k) Bên trái β i = (≥) β i < β i* β i* t < - t α (n - k) Bên phải β i = (≤ β i > β i* β i*) t > t α (n - k) ≠ βi H0 Hai phía β i = β i* 44 [...]... giải thích 19 Kiểm định giả thiết mơ hình ˆ βi − β ˆ σ βˆi = t *α tn theo luật Student với n-2 bậc tự do - so sánh các hệ số hồi quy với một giá trị đã cho trước - so sánh hai hệ số hồi quy từ hai mẫu khác nhau - xác định khoảng tin cậy của một tham số 20 Đánh giá kết quả hồi quy (ii)  σ_mu (standard error của hồi quy) σ_mu = RSS / (n-2) (n = # của obs., k = # của hồi quy có hằng số, n-2 là bậc tự do)... R 2 tα/2) = α α/2 1-α α/2 -tα/2 t tra Để xác đònh tα/2 ta có thểα/2 bảng 0 hoặc dùng hàm TINV trong Excel 35 6- Khoảng tin cậy của 2 β 1 ; β 2; σ Với độ tin cậy 1- α , KTC của β 2 là: ˆ ±t ˆ ) β2 se(β 2 α/2 36 . sự phù hợp của dữ liệu với mô hình.  R 2 cho biết tỷ lệ mà mô hình được giải thích bởi ước lượng đường thẳng hồi quy; 0 <= R 2 <= 1  trong trường hợp hồi quy đơn, nó là bình phương của. ) ∑∑∑ −+−=− i ii i i i i yyyyyy 2 2 2 ˆˆˆ 16 * * * * * y * * * Mô hình hồi quy giải thích tốt dữ liệu R 2 = 0.89 * * * * * y * * * * * * Mô hình hồi quy giải thích không tốt dữ liệu R 2 = 0.25 09/16/15. giải thích hoàn toàn bởi mô hình R 2 ≈ 0 : phương sai của biến x không được giải thích hoàn toàn bởi mô hình Kiểm định độ phù hợp của mô hình Kiểm định độ phù hợp của mô hình ( ) ( ) ∑ ∑ − − = i i t i yy yy R 2 2 2 ˆ (