Chương Mơ hình hồi quy tuyến tính đơn Những vấn đề Chương Chủ đề chính: -Bản chất cuả phân tích hồi qui -Bản chất nguồn số liệu cho phân tích hồi qui -Hàm hồi qui hai biến I Bản chất phân tích hồi qui Khái niệm: Phân tích hồi qui nghiên cứu phụ thuộc biến(biến phụ thuộc hay gọi biến giải thích) vào hay nhiều biến khác (biến độc lập hay gọi biến giải thích) với ý tưởng ước lượng (hay dự đốn) giá trị trung bình biến phụ thuộc sở giá trị biết biến độc lập Một số ví dụ: Vd1: Cơng ty địa ốc quan tâm đến việc liên hệ giá bán ngơi nhà với đặc trưng kích thước, diện tích sử dụng, số phòng ngủ phòng tắm, loại thiết bị gia dụng, có hồ bơi hay khơng, cảnh quan có đẹp khơng, I Bản chất phân tích hồi qui 2.Một số ví dụ: Vd2: Cho đến việc hút thuốc ngun nhân gây tử vong ung thư phổi ghi chép cẩn thận Một mơ hình hồi qui tuyến tính đơn cho vấn đề là: D E A T H S     S M O K IN G  u I Bản chất phân tích hồi qui Một số ví dụ: Vd3: Ta xem xét đồ thị phân tán sau mơ tả phân phối chiều cao học sinh nam tính theo độ tuổi cố định Đồ thị phân tán Chiều cao(cm) 140 130 120 110 10 11 12 13 14 15 16 Tuổi học sinh nam I Bản chất phân tích hồi qui 2.Một số ví dụ: Vd4: Sau nhà nơng học quan tâm tới việc nghiên cứu phụ thuộc sản lượng lúa vào nhiệt độ, lượng mưa, nắng, phân bón, Một nghiên cứu phụ thuộc dự báo sản lượng lúa trung bình biết thơng tin Chúng ta đưa vơ số ví dụ phụ thuộc biến vào hay nhiều biến khác Các kỹ thuật phân tích hồi qui thảo luận chương nhằm nghiên phụ thuộc biến số I Bản chất phân tích hồi qui Ta ký hiệu: Y - biến phụ thuộc(hay biến giải thích) Xj - biến độc lập(hay biến giải thích) thứ j Trong đó, biến phụ thuộc Y đại lượng ngẫu nhiên, có quy luật phân phối xác suất Các biến độc lập Xj khơng phải ngẫu nhiên, giá trị chúng biết trước I Bản chất phân tích hồi qui Phân tích hồi qui giải vấn đề sau: - Ước lượng giá trị trung bình biến phụ thuộc với giá trị cho biến độc lập - Kiểm định giả thiết chất phụ thuộc - Dự đốn giá trị trung bình biến phụ thuộc biết giá trị biến độc lập - Kết hợp vấn đề I Bản chất phân tích hồi qui Phân biệt quan hệ phân tích hồi qui: - Quan hệ thống kê quan hệ hàm số - Hồi qui nhân - Hồi qui tương quan II.Bản chất nguồn số liệu cho phân tích hồi qui 1.Các loại số liệu Có loại số liệu: + Số liệu theo thời gian (chuỗi thời gian) + Số liệu chéo (theo khơng gian) + Hỗn hợp hai loại (số liệu dạng bảng) 10 II.Bản chất nguồn số liệu cho phân tích hồi qui 2.Nguồn số liệu: -Cơ quan nhà nước cung cấp - Các tổ chức quốc tế - Các cơng ty tư nhân - Cá nhân tự thu thập II.Bản chất nguồn số liệu cho phân tích hồi qui Nhược điểm số liệu: Một số ngun nhân làm cho chất lượng số liệu kém: Có sai số quan sát bỏ sót quan sát hai Sai số đo lường làm tròn Thiếu thơng tin trả lời Do tính tổng hợp số liệu III.Hàm hồi qui hai biến 1.Hàm hồi qui tổng thể Ví dụ : Giả sử địa phương (tổng thể) có thảy 60 gia đình quan tâm đến việc nghiên cứu mối quan hệ giữa: Y-Tiêu dùng tuần gia đình (USD/tuần) X-Thu nhập khả dụng tuần hộ gia đình (USD/tuần) 13 III.Hàm hồi qui hai biến 1.Hàm hồi qui tổng thể: Bảng 1: Thu nhập chi tiêu tuần tổng thể STT X 80 100 120 140 160 180 200 220 240 260 55 65 79 80 102 110 120 135 137 150 60 70 84 93 107 115 136 137 145 152 65 74 90 95 110 120 140 140 155 175 70 80 94 103 116 130 144 152 165 178 75 85 98 108 118 135 145 157 175 180 - 88 - 113 125 140 - 160 189 185 - - - 115 - 162 Y - - - 14 191 III.Hàm hồi qui hai biến 1.Hàm hồi qui tổng thể: Các số liệu bảng giải thích sau: Với thu nhập tuần, chẳng hạn X=100 $ có gia đình mà chi tiêu tuần gia đình nhóm 65; 70; 74; 80; 85 88 Tổng chi tiêu tuần nhóm 462 $ Như vậy, cột bảng cho ta phân phối chi tiêu tuần Y với mức thu nhập cho X Ta tính chi tiêu trung bình hàng tuần hộ gia đình với mức thu nhập cho trước 15 III.Hàm hồi qui hai biến 1.Hàm hồi qui tổng thể: Kỳ vọng tốn có điều kiện (trung bình có điều kiện) Y với điều kiện X=Xi tính theo cơng thức sau: Từ số liệu cho bảng ta dễ dàng tính xác suất có điều kiện: Chẳng hạn: P(Y=85/X=100)=1/6; P(Y=90/X=120)=1/5, Từ ta có bảng xác suất có điều kiện kỳ vọng tốn có điều kiện Y điều kiện X=Xi 16 III.Hàm hồi qui hai biến 1.Hàm hồi qui tổng thể: Bảng 2: Xác suất có điều kiện P(Y/X) kz vọng có điều kiện E(Y/Xi) X E(Y/ X) 80 1/5 100 1/6 120 1/5 140 1/7 160 1/6 180 1/6 200 1/5 220 1/7 240 1/6 260 1/7 1/5 1/5 1/5 1/5 65 1/6 1/6 1/6 1/6 1/6 77 1/5 1/5 1/5 1/5 89 1/7 1/7 1/7 1/7 1/7 1/7 101 1/6 1/6 1/6 1/6 1/6 113 1/6 1/6 1/6 1/6 1/6 125 1/5 1/5 1/5 1/5 137 1/7 1/7 1/7 1/7 1/7 1/7 149 1/6 1/6 1/6 1/6 1/6 161 1/7 1/7 1/7 1/7 1/7 1/7 173 17 III.Hàm hồi qui hai biến 1.Hàm hồi qui tổng thể: Biểu diễn điểm (Xi;Yj) điểm (Xi; E(Y/Xi)) ta đồ thị hình bên 200 Theo hình bên ta thấy trung bình có điều kiện mức chi tiêu tuần nằm đường thẳng có hệ số góc dương Khi thu nhập tăng mức chi tiêu trung bình tăng Một cách tổng qt, E(Y/Xi) hàm Xi E(Y/Xi) = f(Xi) (*) 120  180 160 Chi tiêu 140 100 80 60 40 20 0 100 200 300 Thu nhập 18 III.Hàm hồi qui hai biến 1.Hàm hồi qui tổng thể: Hàm (*) gọi hàm hồi qui tổng thể (PRF-Population Regression Function) Nếu PRF có biến độc lập gọi hồi qui đơn, có từ hai biến độc lập trở lên gọi hồi qui bội Ý nghĩa hàm PRF: -Hàm hồi qui tổng thể (PRF) cho ta biết giá trị trung bình biến Y thay đổi biến X nhận giá trị khác -Để xác định dạng hàm PRF người ta thường dựa vào đồ thị biểu diễn biến thiên dãy số liệu quan sát X Y kết hợp với việc phân tích chất vấn đề nghiên cứu 19 III.Hàm hồi qui hai biến 1.Hàm hồi qui tổng thể: Ý nghĩa hàm PRF: Chúng ta xét trường hợp đơn giản PRF có dạng tuyến tính: E(Y/Xi) = β1 + β2Xi Trong : β1, β2 tham số chưa biết cố định, gọi hệ số hồi qui +β1: hệ số tự (hệ số tung độ góc) Nó cho biết giá trị trung bình biến phụ thuộc Y biến độc lập X nhận giá trị Điều mặt lý thuyết, thực tế nhiều hệ số khơng có ý nghĩa 20 Introductory Econometrics Autocorrelation VI PHÁT HIỆN CÓ TỰ TƯƠNG QUAN Kiểm đònh d Durbin - Watson: n d   n ( e t  e t 1 ) t2 t2  n e  n 2 t2 t2 n e t t 1 n n e t   e t 1   e t e t 1 t t 1 n Vì  e t2  e t21 khác quan sát, chúng n n t= t= xấp xỉ Do đó, đặt  e t2 =  e t21 đó: t2 t= 12/1/2011 19 VI PHÁT HIỆN CÓ TỰ TƯƠNG QUAN Kiểm đònh d Durbin - Watson:   d  1      e t e t 1  t2  n   et  t 1  n  n   Ta đònh nghóa:   e t e t 1 t2 n    d  2(1   ) et t 1 12/1/2011 Phạm Thành Thái - NTU 20 10 Introductory Econometrics Autocorrelation VI PHÁT HIỆN CÓ TỰ TƯƠNG QUAN Kiểm đònh d Durbin - Watson:  hệ số tự tương quan bậc mẫu, Trong đó:  ước lượng  Vì:      d   0;  12/1/2011 21 VI PHÁT HIỆN CÓ TỰ TƯƠNG QUAN Kiểm đònh d Durbin - Watson: Thang dùng kiểm đònh Durbin - Watson dl  0 du ?   4-du 4-dl ?   Quy tắc đònh sau: Nếu: d u  d   d u chấp nhận H0, tự tương quan 12/1/2011 Phạm Thành Thái - NTU 22 11 Introductory Econometrics Autocorrelation VI PHÁT HIỆN CÓ TỰ TƯƠNG QUAN Kiểm đònh d Durbin - Watson: Quy tắc đònh sau: Nếu:  d  d l bác bỏ H0, có tự tương quan dương(   ) Nếu: d l  d  d u không đònh Nếu:  d u  d   d l không đònh Nếu:  d l  d  bác bỏ H0, có tự tương quan âm (   ) 12/1/2011 23 VI PHÁT HIỆN CÓ TỰ TƯƠNG QUAN Kiểm đònh d Durbin - Watson: Chú ý: Nếu giá trò d thuộc miền đònh, tức ta kết luận có tự tương quan hay không Khi ta kết luận nào? Để giải vấn đề có số cải biên kiểm đònh d Dưới quy tắc kiểm đònh cải biên thường áp dụng để kiểm đònh tự tương quan bậc 12/1/2011 Phạm Thành Thái - NTU 24 12 Introductory Econometrics Autocorrelation VI PHÁT HIỆN CÓ TỰ TƯƠNG QUAN Kiểm đònh d Durbin - Watson: (1): Giả thiết: H :   ; H :   Nếu d  d u bác bỏ giả thiết H0 chấp nhận H1 với mức ý nghóa  , nghóa có tự tương quan dương (2): Gia thiết: H :   ; H :   Nếu  d  d bác bỏ u giả thiết H0 chấp nhận H1 với mức ý nghóa  , nghóa có tự tương quan âm 12/1/2011 25 VI PHÁT HIỆN CÓ TỰ TƯƠNG QUAN Kiểm đònh d Durbin - Watson: (3): Giả thiết: H :   ; H :   Nếu d  d u  d  d u bác bỏ giả thiết H0 chấp nhận H1 với mức ý nghóa , nghóa có tự tương quan dương âm (Hầu hết phần mềm kinh tế lượng tính giá trò thống kê d) 12/1/2011 Phạm Thành Thái - NTU 26 13 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  biết Trong thực hành, người ta thường giả sử Ut theo mô hình tự hồi quy bậc nhất, nghóa là: U t   U t 1   t Trong đó:    thoả mãn giả thiết phương t pháp OLS 12/1/2011 27 VII BIỆN PHÁP KHẮC PHỤC Khi  biết Ta xét mô hình hồi quy hai biến sau: Yt     X t  U t (a) Nếu mơ hình với t với t-1 nên: Yt 1     X t 1  U t 1 (b) 12/1/2011 Phạm Thành Thái - NTU 28 14 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  biết Nhân hai vế (b) cho  ta được:  Yt 1     X t 1   U t 1 (c) Lấy (a) - (c), ta được: Yt   Yt 1   (1   )   ( X t   X t 1 )  (U t   U t 1 ) (d)    (1   );    * Đặt: * * Yt  Yt   Yt  ; X t  X t   X t  * 12/1/2011 29 VII BIỆN PHÁP KHẮC PHỤC Khi  biết Khi (d) viết lại dạng: Yt     X t   t * * * * (e) Do  thoả mãn giả thiết phương pháp OLS t biến Yt * * Xt nên ước lượng tìm BLUE Phương trình hồi quy (e) gọi phương trình sai phân tổng quát 12/1/2011 Phạm Thành Thái - NTU 30 15 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  biết Việc ước lượng hồi quy Y* X* có hay hệ số chặn phụ thuộc vào hồi quy gốc có hệ số chặn hay không Trong quy trình lấy sai phân bò quan sát quan sát quan sát đứng trước Để tránh mát quan sát này, quan sát đầu Y* X* biến đổi sau: * Y1  Y1   * X1  X1 1  12/1/2011 31 VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.1 Phương pháp sai phân cấp Như ta biết -1 1 nghóa nằm [-1; +1] người ta giá trò đầu mút khoảng đo Nghóa là, giả thiết rằng: -  = : tức tượng tự tương quan -   1: tức có tự tương quan nghòch thuận hoàn toàn 12/1/2011 Phạm Thành Thái - NTU 32 16 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.1 Phương pháp sai phân cấp Trên thực tế ước lượng hồi quy người ta thường giả thiết tự tương quan sau tiến hành kiểm đònh Durbin - Watson hay kiểm đònh khác để xem giả thiết có không - Tuy nhiên :   = +1 phương trình sai phân tổng quát (d) có mục quy phương trình sai phân cấp sau: 12/1/2011 33 VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.1 Phương pháp sai phân cấp Yt  Yt 1   ( X t  X t 1 )  (U t  U t 1 )   ( X t  X t 1 )   t Hay:  Yt    X t   t (**) Trong đó:  toán tử sai phân cấp Lúc để ước lượng hàm hồi quy (**) ta sử dụng hồi quy qua gốc toạ độ Giả sử mô hình ban đầu là: Yt     X t   t  U t (***) 12/1/2011 Phạm Thành Thái - NTU 34 17 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.1 Phương pháp sai phân cấp Trong đó: t biến xu (thời gian), Ut theo sơ đồ tự hồi quy bậc Thực phép biến đổi sai phân cấp (***) ta có hàm sau: (f)  Yt    X t     t Trong đó:  Yt  Yt  Yt 1  X t  X t  X t 1 12/1/2011 35 VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.1 Phương pháp sai phân cấp Phương trình (f) có hệ số chặn dạng sai phân cấp 1, ta phải ý  hệ số biến xu mô hình hồi quy lúc đầu Vì vậy, có số hạng chặn dạng sai phân cấp điều có nghóa có số hạng xu tuyến tính mô hình gốc số hạng chặn thực hệ số biến xu Nếu  dương có nghóa có xu tăng Y sau tính đến ảnh hưởng biến khác 12/1/2011 Phạm Thành Thái - NTU 36 18 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.1 Phương pháp sai phân cấp  Nếu:  = -1: Nghóa có tương quan nghòch hoàn toàn (mặc dù trường hợp điển hình chuỗi thời gian kinh tế), phương trình sai phân tổng quát có dạng: Yt  Yt 1     ( X t  X t 1 )   t Hay: Yt  Yt 1     X t  X t 1   t 2 12/1/2011 37 VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.1 Phương pháp sai phân cấp Mô hình gọi mô hình hồi quy trung bình trượt (2 thời kỳ) ta hồi quy giá trò trung bình trượt trung bình trượt khác Chú ý: Phép biến đổi sai phân cấp giới thiệu trước phổ biến kinh tế lượng ứng dụng dễ thực Nhưng lưu ý phép biến đổi giả thiết   +1 nghóa nhiễu có tương quan dương hoàn toàn Nếu điều không xảy việc khắc phục có tệ thân bệnh 12/1/2011 Phạm Thành Thái - NTU 38 19 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.2 Ước lượng  dựa vào thống kê d (Durbin – Watson) ) Ở ta thiết lập công thức: d  (1     1 d Hoặc:  Đẳng thức giả thiết sai phân cấp với  =+1 d = gần Cũng vậy, d =   d =    Do thống kê d cho phép ta tính ước lượng  12/1/2011 39 VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.3 Thủ tục lặp Cochrane - Orcutt để ước lượng  Một cách khác để ước lượng  từ thống kê d phương pháp Cochrane - Orcutt, phương pháp dựa vào phần dư et để ước lượng  Ta xét phương pháp thông qua phương trình biến sau: Yt     X t  U t 12/1/2011 Phạm Thành Thái - NTU 40 20 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.3 Thủ tục lặp Cochrane - Orcutt để ước lượng  Giả sử Ut sinh từ lược đồ AR(1): U t   U t 1   t Các bước ước lượng  tiến hành sau: Bước 1: Ước lượng mô hình biến phương pháp OLS thu phần dư et 12/1/2011 41 VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.3 Thủ tục lặp Cochrane - Orcutt để ước lượng  Bước 2: Sử dụng phần dư để ước lượng hồi quy: e t   e t 1  v t  để ước lượng mô hình sai phân tổng Bước 3: Sử dụng  quát:  Y   (1    )   (X    X )  (U   U ) Yt   t 1 t t 1 t t 1 12/1/2011 Phạm Thành Thái - NTU 42 21 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.3 Thủ tục lặp Cochrane - Orcutt để ước lượng  Đặt: * Yt  Yt   Yt 1 ; X t*  X t   X t 1 * U ;  *      (1   ); U t*  U t   2 t 1 Ta hàm cần ước lượng: Yt *  1   X t  U t * * * 12/1/2011 * 43 VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.3 Thủ tục lặp Cochrane - Orcutt để ước lượng   có phải ước lượng Bước 4: Vì ta chưa biết trước  tốt  hay không nên ta thay  1*  2* vào phương trình * hồi quy gốc ban đầu, thu phần dư e t e t  Yt     X t * * * Sau ta lại ước lượng hàm hàm hồi quy: e t   e t 1  W t * 12/1/2011 Phạm Thành Thái - NTU * 44 22 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.3 Thủ tục lặp Cochrane - Orcutt để ước lượng    ước lượng vòng  Thủ tục Ta thu  lặp lại ước lượng  chênh lệch nhỏ (0,05 - 0,005), thực tế khoảng từ đến vòng 12/1/2011 45 VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.4 Phương pháp Durbin - Watson bước để ước lượng  Để minh hoạ phương pháp này, ta viết lại phương trình sai phân tổng quát : Yt   Yt 1   (1   )   ( X t   X t 1 )  (U t   U t 1 ) thành phương trình sau: Yt   (1   )   X t   X t 1   Yt 1   t 12/1/2011 Phạm Thành Thái - NTU 46 23 Introductory Econometrics Autocorrelation VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.4 Phương pháp Durbin - Watson bước để ước lượng  Durbin đưa phương pháp bước để ước lượng  sau: Bước 1: Ước lượng hàm hồi quy coi giá trò ước lượng  ước lượng  hệ số hồi quy Yt 1   biến đổi cách đặt:  Bước 2: Sau có  * Y Yt  Yt   t 1 * X Xt  Xt   t 1 12/1/2011 47 VII BIỆN PHÁP KHẮC PHỤC Khi  chưa biết 2.4 Phương pháp Durbin - Watson bước để ước lượng  Và ước lượng hàm hồi quy biến đổi mô hình sau: Yt     X t  U t * * * * * Như theo phương pháp bước để ước lượng  bước để thu tham số 12/1/2011 Phạm Thành Thái - NTU 48 24