TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI KHOA TOÁN - TIN ————————–o0o————————– CAO PHƯƠNG NGỌC PHƯƠNG TRÌNH LỌC TỔNG QUÁT VÀ ƯỚC LƯỢNG TUYẾN TÍNH CỦA QUÁ TRÌNH NGẪU NHIÊN Chuyên ngành Mã số Học viên Giảng viên hướng dẫn : : : : Lý thuyết Xác suất Thống kê Toán học 60.46.01.06 Cao Phương Ngọc PGS.TS Phạm Văn Kiều HÀ NỘI - 2017 Mục lục LỜI CẢM ƠN MỞ ĐẦU MỘT SỐ KIẾN THỨC CHUẨN BỊ 1.1 Quá trình ngẫu nhiên 1.2 Quá trình Ito, tích phân Ito 1.3 Công thức Ito 11 1.4 Điều kiện tồn nghiệm phương trình vi phân ngẫu nhiên 11 LỌC 13 2.1 Khái niệm lọc 13 2.2 Phương trình lọc tổng quát 14 2.3 Lọc trình Markov khuếch tán 20 2.4 Lọc tuyến tính tối ưu dãy dừng với phổ hữu tỉ 22 ƯỚC LƯỢNG TUYẾN TÍNH CỦA QUÁ TRÌNH NGẪU NHIÊN 31 3.1 Quá trình Wiener theo nghĩa rộng 3.2 Ước lượng tuyến tính tối ưu số lớp trình không dừng 3.3 3.4 31 42 Ước lượng tuyến tính trình dừng yếu theo nghĩa rộng với phổ hữu tỉ 47 So sánh ước lượng tuyến tính tối ưu ước lượng phi tuyến 56 PHỤ LỤC 62 KẾT LUẬN 74 TÀI LIỆU THAM KHẢO 75 LỜI CẢM ƠN Bài toán lọc có vai trò quan trọng lý thuyết điều khiển dự báo Bản chất là: cho trình ngẫu nhiên hai chiều phần quan sát được, thời điểm phải ước lượng thành phần không quan sát sở thành phần quan sát Khóa luận trình bày phương trình lọc tổng quát ước lượng tuyến tính trình ngẫu nhiên Nội dung khóa luận chia làm chương gồm vấn đề sau đây: Chương 1: Trình bày số kiến thức chuẩn bị để thực nội dung chương sau: Quá trình ngẫu nhiên, tích phân Ito, trình Ito, phương trình Ito, công thức Ito, điều kiện tồn nghiệm phương trình vi phân ngẫu nhiên Chương 2: Trình bày khái niệm lọc, phương trình lọc tổng quát, lọc trình Markov khuếch tán lọc tuyến tính tối ưu dãy dừng với phổ hữu tỉ Chương 3: Trình bày trình Wiener theo nghĩa rộng, lọc tuyến tính tối ưu số lớp trình không dừng, ước lượng tuyến tính trình ngẫu nhiên dừng theo nghĩa rộng với phổ hữu tỉ Qua khóa luận này, em xin gửi lời cảm ơn đến thầy cô giáo Khoa Toán - Tin, Trường Đại học Sư phạm Hà Nội nói chung thầy cô giáo môn Toán ứng dụng nói riêng dạy bảo dìu dắt em năm học vừa qua Đặc biệt, em xin bày tỏ lòng biết ơn sâu sắc đến PGS TS Phạm Văn Kiều, người tận tình bảo, hướng dẫn giúp đỡ em suốt trình làm khóa luận Em xin cảm ơn gia đình, bạn bè, người động viên, cổ vũ, giúp đỡ em suốt trình học tập để em hoàn thành khóa luận Do thời gian thực khóa luận không nhiều, kiến thức hạn chế nên làm khóa luận không tránh khỏi thiếu sót Em mong nhận góp ý, bảo tận tình từ thầy cô bạn bè Em xin chân thành cảm ơn! Hà Nội, ngày 29 tháng 05 năm 2017 Tác giả luận văn Cao Phương Ngọc MỞ ĐẦU I LÝ DO CHỌN ĐỀ TÀI Lý thuyết ước lượng tham số thống kê toán học có nhiều phương pháp: phương pháp hợp lý cực trị, phương pháp mômen, phương pháp bình phương tối thiểu dùng lý thuyết lọc tối ưu Thực chất lọc tối ưu dùng kỳ vọng điều kiện, tức tìm hàm ước lượng y cho E(y − y)2 → Ta suy y = E(y/x) Ước lượng lọc tối ưu Dựa sở đó, tác giả tìm ước lượng tham số trình ngẫu nhiên phương pháp sử dụng khái niệm lọc Vì lý trên, đề tài nghiên cứu luận văn lựa chọn là: “Phương trình lọc tổng quát ước lượng tuyến tính trình ngẫu nhiên” II MỤC TIÊU NGHIÊN CỨU Vận dụng lý thuyết lọc vào phương trình vi phân ngẫu nhiên ước lượng tham số trình ngẫu nhiên III ĐỐI TƯỢNG NGHIÊN CỨU • Phương trình lọc tổng quát • Ước lượng tuyến tính trình ngẫu nhiên IV PHƯƠNG PHÁP NGHIÊN CỨU Phương pháp giải tích, lọc tuyến tính tối ưu V CẤU TRÚC LUẬN VĂN Nội dung luận văn gồm 75 trang có phần mở đầu, ba chương nội dung, phần kết luận danh mục tài liệu tham khảo Chương 1: Trình bày số kiến thức chuẩn bị để thực nội dung chương sau: Quá trình ngẫu nhiên, tích phân Ito, trình Ito, phương trình Ito, công thức Ito, điều kiện tồn nghiệm phương trình vi phân ngẫu nhiên Chương 2: Trình bày khái niệm lọc, phương trình lọc tổng quát, lọc trình Markov khuếch tán lọc tuyến tính tối ưu dãy dừng với phổ hữu tỉ Chương 3: Trình bày trình Wiener theo nghĩa rộng, lọc tuyến tính tối ưu số lớp trình không dừng, ước lượng tuyến tính trình ngẫu nhiên dừng theo nghĩa rộng với phổ hữu tỉ Cuối phần kết luận trình bày tóm tắt kết đạt Luận văn hoàn thành Trường Đại học Sư phạm Hà Nội hướng dẫn tận tình PGS TS Phạm Văn Kiều Nhân dịp em xin cám ơn Thầy hướng dẫn nhiệt tình truyền thụ kinh nghiệm trình học tập, nghiên cứu hoàn thành luận văn Tác giả xin chân thành cảm ơn Phòng Sau Đại học, Ban chủ nhiệm Khoa Toán, thầy cô giáo Trường Đại học Sư phạm Hà Nội giảng dạy tạo điều kiện thuận lợi cho em trình học tập nghiên cứu khoa học Xin chân thành cảm ơn đồng nghiệp tạo điều kiện giúp đỡ mặt trình học tập hoàn thành luận văn Bản luận văn chắn không tránh khỏi khiếm khuyết, mong đóng góp ý kiến thầy cô giáo bạn học viên để luận văn hoàn chỉnh Hà Nội, ngày 10 tháng 06 năm 2017 Tác giả luận văn Cao Phương Ngọc Chương MỘT SỐ KIẾN THỨC CHUẨN BỊ 1.1 Quá trình ngẫu nhiên Định nghĩa 1.1.1 (Quá trình ngẫu nhiên) Quá trình ngẫu nhiên X họ biến ngẫu nhiên X = (Xt , t ∈ T ⊂ R) T tập số thực, hữu hạn đếm vô hạn không đếm Nếu T = Z X = (Xt ) dãy biến ngẫu nhiên Định nghĩa 1.1.2 (Quá trình Wiener) Cho không gian xác suất (Ω, F, P) họ không gian σ - đại số {Ft , t ≥ 0} σ - đại số F Quá trình ngẫu nhiên W = (Wt , t Wiener tương ứng với họ (Ft , t i) Quỹ đạo Wt , t ii) W = (Wt , Ft )t 0, Ft ) gọi trình 0) nếu: liên tục với t (hcc) martingale bình phương khả tích với W0 = và: E[(Wt − Ws )2 /Fs ] = t − s, t s Định nghĩa 1.1.3 (Quá trình Markov) Ta nói X = (Xt , t 0) trình Markov với t1 < t2 < < tk < t với i1 , , in ∈ T ta có: P{Xt = i|Xt1 = i1 , Xt2 = i2 , , Xtk = ik } = P{Xt = i|Xtk = ik } Định nghĩa 1.1.4 (Quá trình dừng theo nghĩa hẹp (dừng mạnh)) Quá trình ngẫu nhiên X = (Xt , t ∈ T ⊂ R1 ) trình dừng (theo nghĩa hẹp) sô thực h, phân phối hữu hạn chiều không thay đổi tịnh tiến đoạn h, nghĩa là: φt1 , ,tn = φt1 +h, ,tn +h với t1 , , tn , t1 + h, , tn + h ∈ T Định nghĩa 1.1.5 (Quá trình dừng theo nghĩa rộng (dừng yếu)) Quá trình ngẫu nhiên X = (Xt , t ∈ T ⊂ R1 ) trình dừng (theo nghĩa rộng) tồn mômen cấp 1, cấp không thay đổi thực phép tịnh tiến, nghĩa là: Eξt+h = Eξt K(t + h, s + h) = K(t, s) Định nghĩa 1.1.6 (Quá trình Gauss) Quá trình ngẫu nhiên X = (Xt , t 0) trình Gauss tổ hợp tuyến tính có dạng: N Z= αi Xti i=1 biến ngẫu nhiên chuẩn (biến ngẫu nhiên Gauss), với (αi , , αi ) ∈ RN Nói cách khác, X Gauss phân phối hữu hạn chiều chuẩn 1.2 Quá trình Ito, tích phân Ito Định nghĩa 1.2.1 (Quá trình Ito) Quá trình ngẫu nhiên liên tục ξ = (ξt , t T ) gọi trình Ito (liên hệ với trình Wiener W = (Wt , Ft ), t ∈ [0, T ]) tồn trình không đoán định trước a = (at , Ft ) b = (bt , Ft ), t ∈ [0, T ] cho: T |at |dt < ∞ P =1 T b2t dt < ∞ P =1 với xác suất T thì: t t ξt = ξ0 + t a(s, ω)ds + b(s, ω)dWs Định nghĩa 1.2.2 (Quá trình khuếch tán) Quá trình Ito ξ = (ξt , t ∈ [0, T ]) gọi trình khuếch tán (liên quan đến trình Wiener) hàm a(s, ω) b(s, ω) định nghĩa Ito Ftξ - đo với hầu tất s, s t Định nghĩa 1.2.3 (Tích phân Ito) Giả sử f (t, ω) trình ngẫu nhiên thỏa mãn: E f (t, ω) < ∞ Wt chuyển động Brown có quỹ đạo xác định [a, b] Xét phân hoạch [a, b]: a = t0 < t1 < t2 < < tn = b tổng tích phân: n−1 f (ti , ω) [Wti+1 − Wti ] Sn (ω) = i=0 Ta mịn phân hoạch [a, b] cho: max |ti+1 − ti | → 0 t n−1 Nếu tồn biến ngẫu nhiên S∗ (ω) cho: E|Sn (ω) − S∗ (ω)|2 → 0, n→∞ S∗ (ω) gọi tích phân Ito, kí hiệu: b I= f (t, ω)dWt a S∗ (ω) giới hạn theo nghĩa bình phương trung bình Sn (ω), kí hiệu: S∗ (ω) = lim Sn (ω) n→∞ Khi đó, Sn → S∗ L2 (ω, F, P) n → ∞ Vì vậy, ta định nghĩa tích phân Ito trình ngẫu nhiên f (t, ω) giới hạn theo nghĩa bình phương trung bình sau (nếu giới hạn tồn tại): 10 với nghĩa sai số bình phương Trong trường hợp λ → ∞, lọc sau "nhiễu" nhau: t→∞ γ(λ) ∼ lim E(θt − nt )2 = t→∞ δ(λ) ∼ lim E(θt − nt )2 = Với λ đủ lớn, hiệu suất sai số tương đương với chu kì lọc cho giá trị trung bình nt lấy ước lượng giá trị θt Từ lim E(θt − nt )2 = , ∀λ > (3.145) ta có với λ đủ nhỏ, lọc tuyến tính tối t→∞ ưu hàm "tốt" (từ thời điểm quan sát tiệm cận "theo dõi" trình θt so sánh với chu kì lọc): lim E(θt − λt )2 t→∞ lim E(θt − nt )2 √ = λ + 0(λ) λ↓0 t→∞ Dưới điều kiện cung cấp, lọc phi tuyến có độ xác cao "tốt" hơn: lim E(θt − λt )2 t→∞ lim E(θt − nt t→∞ )2 = 8λln 1 c(λ) + λ lnλ λ↓0 Thời điểm quan sát toán lọc với "phần sinh lợi" thu với gia tăng lọc phi tuyến tính tối ưu độ xác "tốt" lọc tối ưu hoàn thiện 61 PHỤ LỤC MỘT SỐ KẾT QUẢ QUAN TRỌNG (tham khảo tài liệu [2], [3] ) Định lý (Định lý 1.4, tài liệu [2]) (Định lý hội tụ ưu Lebesgue) Cho ξn → ξ (hcc) tồn biến ngẫu nhiên khả tích η cho: |ξn | < η Khi đó: (E(|ξn − ξ|)/G) → 0; n→∞ ( hcc) Định lý (Định lý 1.6, tài liệu [2]) Giả sử ξm → ξ giả sử tồn biến ngẫu nhiên η cho |ξm | < η Giả sử F−2 ⊂ F−1 ⊂ F0 ⊂ F1 ⊂ dãy không giảm σ− đại số F , F∞ = ∪Fn , F−∞ = ∩Fn Khi đó: lim m,n→+∞ lim m,n→+∞ E(ξm /Fn ) = E(ξ/F∞ ) E(ξm /F−n ) = E(ξ/F−∞ ) Định lý (Định lý 1.10, tài liệu [2]) (Tiêu chuẩn Kolmogorov): Để trình ngẫu nhiên X = (ξt ), t ∈ [a, b] có liên tục X ∗ = (ξt∗ ); t ∈ [0, T ], điều kiện đủ tồn số a > 0, ε > 0, c cho: E|ξt+∆ − ξt |a c|∆|1+ε t, t + ∆ ∈ [a, b] Định lý (Định lý 3.1, tài liệu [2]) Giả sử họ F = (Ft ), t liên tục phải σ− đại số Ft đầy đủ tập có độ đo từ F Để supermartingale X = (Xt , Ft ), t có liên tục phải, điều kiện cần đủ hàm mt = EXt , t liên tục phải (n) (n) Định lý (Định lý 4.3, tài liệu [2]) Cho ≡ t(n) < t1 < < tn phân hoạch đoạn [0; t] với: (n) → 0; T(n) = max t(n) i+1 − ti Khi đó: n−1 n Wt(n) − Wt(n) lim n→∞ i+1 i=0 62 i =t ∞ Nếu T(n) < ∞ ta có xác suất: n=1 n−1 Wt(n) − Wt(n) lim n i+1 =t i i=0 Định lý (Định lý 4.6, tài liệu [2]) Giả sử hàm a(t, x), b(t, x), t ∈ [0, 1] không đoán định trước, x ∈ C1 thỏa mãn điều kiện Lipschitz: t |a(t, x) − a(t, y)|2 + |b(t, x) − b(t, y)|2 |xs − ys |2 dK(s) + L2 |xt − yt | L1 (1) t a2 (t, x) + b2 (t, x) L1 (1 + x2s )dK(s) + L2 (1 + x2t ) (2) L1 , L2 số, K(s) hàm không giảm liên tục phải, K(s) 1, x, y ∈ C1 Giả sử η = η(ω) Fσ - đo được, P(|η(ω)| < ∞) = Khi đó: i) Phương trình dxt = a(t, x)dt + b(t, x)dWt , x0 = η có nghiệm ξ = (ξt , Ft ), t ii) Nếu Eη 2m < ∞, m > tồn số cm cho: Eξt2m (1 + Eη 2m )ecm t − Bổ đề (Bổ đề 4.9, tài liệu [2]) Giả sử ξ = (ξt ), t T trình ngẫu nhiên liên tục xác định không gian xác suất đầy đủ (Ω, F, P ) Giả sử trình đo ζ = (ζt ), t T phù hợp với họ σ - đại số F ξ = (Ftξ ) Khi đó, tồn hàm đo ϕ = ϕ(t, x) xác định ([0, T ] × CT , B[0,u] × Bu ) mà Bt - đo t, t T cho: λ × P{(t, ω) : ζ(ω) = ϕ(t, ξ(ω))} = λ độ đo Lebesgue [0, T ] λ × P độ đo tích λ P Bổ đề (Bổ đề 4.10, tài liệu [2]) i) Nếu µξ liên tục tuyệt đối độ đo µξ , µξ ii) Nếu µξ− µξ (hcc): ϕ(ξ) = ϕ(ξ) φ(ξ) = φ(ξ) 63 µξ − ϕ(ξ) = ϕ(ξ) φ(ξ) = φ(ξ) Định lý (Định lý 4.10, tài liệu [2]) Giả sử phần tử hàm vector a0 (t) = (a01 (t), , a0n (t)) ma trận a1 (t) = aiij (t) , b(t) = bij (t) ; i, j = 1, , n hàm đo thỏa mãn điều kiện: |aij (t)|dt < ∞ (i) |aij (t)|dt < ∞ |b2ij (t)|dt < ∞ Khi đó, trình Wiener Wt = (W1 (t), , Wn (t)) có nghiệm xác định công thức: t xt = φ t η + t φ−1 s a0 (s)ds + φ−1 s b(s)dWs 0 φt ma trận (n × n) thỏa mãn: t φt = E + a1 (s)φs ds với E ma trận đơn vị cấp n × n Bổ đề 10 (Định lý 4.13, tài liệu [2]) Giả sử c0 , c1 , c2 số không âm, u(t) hàm không âm bị chặn v(t) hàm khả tích không âm c0 + c1 u(s)ds + c2 cho: t t t u(t) t u(s1 )dK(s1 ) ds v(s) 0 K(s) hàm không giảm liên tục phải, K(s) Khi đó: t u(t) c0 exp (c1 + c2 ) v(s)ds Bổ đề 11 (Bổ đề 5.1, tài liệu [2]) Cho họ F = Ft , t W = (Wt , Ft ), t T liên tục phải, cho T trình Wiener cho X = (xt , Ft ) ∈ MT Cho trình ngẫu nhiên (g(t, ω), Ft ), t T đo với σ− đại số [0, T ] × Ω tạo thành trình không đoán định trước có quỹ đạo liên tục phải thỏa mãn: 64 T g (s, ω)(|a x, W s | + ds) < ∞ t Nếu yt = g(s, ω)dWs thì: t x, y t = g(s, ω)d x, W (3) s tích phân hiểu tích phân Lebesgue - Stieltjes Nếu với hầu hết ω , hàm số x, W t liên tục tuyệt đối trình (3) thỏa mãn với hầu hết trình (g(t, ω), Ft ), t T thỏa mãn điều kiện: T E g (s, ω)(|d x, W s | + ds) < ∞ Định lý 12 (Định lý 5.2, tài liệu [2]) Giả sử X ∈ MT , Y ∈ MT Khi tồn (tới tương đương ngẫu nhiên) trình x, y t mà hiệu trình tăng martingale (mt , Ft ) cho với t, xt yt = mt + x, y t t T thì: (hcc) Trong trường hợp này: E[(xt − xs )(yt − ys )/Fs ] = E[ x, y t − x, y s /Fs ] Bổ đề 13 (Bổ đề 5.7, tài liệu [2]) Cho (Ft ), t T họ không giảm σ− đại số F , X = (xt , Ft ) martingale đại số liên tục phải, W = (Wt , Ft ) trình Wiener Gọi yt = E(xt , FtW ) phần tử đại diện kì vọng có điều kiện dạng tích phân ngẫu nhiên qua trình Wiener Khi đó, trình Y = (yt , FtW ), t T martingale Định lý 14 (Định lý 5.7, tài liệu [2]) Giả sử ξ = (ξt , Ft ), t T trình loại khuếch tán với vi phân: dξt = at (ξ)dt + bt (ξ)dWt a = (at (x), Bt ) b = (bt (x), Bt ) hàm không đoán định trước Ta giả thiết hệ số bt (x) thỏa mãn điều kiện Lipschitzt bị chặn định lý hầu hết tất t T: b2t (x) giả thiết: 65 c>0 T T a2t (ξ)dt < ∞ P a2t (η)dt < ∞ =P =1 0 η nghiệm phương trình: dηt = bt (η)dWt ; η0 = ξ0 Khi martingale X = (xt , Ftξ ) có (cải tiến) liên tục với biểu diễn: t xt = x0 + fs (ω)dWs với trình (ft (ω), Ftξ ) Ftξ − phù hợp cho: t fs (ω)ds < ∞ P =1 Nếu X = (xt , Ftξ ), t T martingale bình phương khả tích thì: T Eft2 (ω)dt < ∞ Định lý 15 (Định lý 5.10, tài liệu [2]) Giả sử X = (Xt , Ft ); t bình phương khả tích từ M At = (Xt ); t martingale trình tăng dự báo Giả sử điều kiện sau thực hiện: i) Hàm f ∈ L2A (φ3 ) ii) Hàm f ∈ L2A (φ2 ) trình At , t hcc liên tục iii) Hàm f ∈ L2A (φ1 ) trình At , t liên tục tuyệt đối Khi đó, tồn trình I(f ) tương ứng Trong trường hợp đơn giản, f giới thiệu tích phân ngẫu nhiên cho: EI(f ) = ∞ E[I(f )]2 = E f (t, ω)dAt Giá trị biến ngẫu nhiên I(f ) không phụ thuộc vào việc chọn dãy hàm đơn giản ∞ (hcc) (Biến ngẫu nhiên I(f ) kí hiệu f (t, ω)dx gọi tích phân ngẫu nhiên hàm f theo martingale (Xt , Ft ) ∈ M) Định lý 16 (Định lý 5.12, tài liệu [2]) (Doob) Giả sử X martingale thuộc McT t a2 (s, ω)ds, hàm không đoán định trước a2 (s, ω) > hầu At ≡ (x)t = 66 khắp nơi tương ứng với độ đo dtdP ([0; T ] × Ω, B[0;T ] × F), t T Khi đó, (Ω, F, P ) tồn trình Wiener W = (Wt , Ft ) cho với xác suất: t xt = x0 + a(s, ω)dWs Định nghĩa 17 i) f (t, ω), t 0, ω ∈ Ω thuộc lớp φ1 f không đoán định trước, nghĩa f (t, ω) Ft - đo với t > ii) f (t, ω) ∈ φ2 không đoán định trước mạnh nghĩa f (τ, ω) Fτ - đo iii) f (t, ω) ∈ φ3 không đoán định trước đo σ - đại số bé R+ × Ω sinh trình không đoán định trước có quỹ đạo liên tục trái Định lý 18 (Định lý 5.17, tài liệu [2]) Cho ξ = (ξt , Ft ), t T trình loại khuếch tán với vi phân: dξt = at (ξ)dt + bt (ξ)dWt với a = (at (x), Bt ) b = (bt (x), Bt ) hàm không đoán định trước Giả sử hệ số bt (x) thỏa mãn (1) − (2), với hầu hết t b2t (x) T: c>0 Giả sử: t t a2t (ξ)dt < ∞ P a2t (η)dt < ∞ =P =1 Khi η nghiệm phương trình: dηt = bt (η)dWt ; η0 = ξ0 Khi đó, martingale X = (xt , Ftξ ) biến thể liên tục với biểu diễn: t xt = x0 + fs (ω)dWs với F ξ − trình thích ứng ft (ω), Ftξ thỏa mãn: T fs2 (ω)ds < ∞ P =1 Nếu X = (xt , Ftξ ), t T martingale bình phương khả tích thì: T Eft2 (ω)dt < ∞ 67 (4) Định lý 19 (Định lý 5.18, tài liệu [2]) Giả sử giả thiết định lý 18 thực T a2t (ξ)dt < ∞ với trừ (4) mà thay điều kiện yếu P = Khi kết luận định lý 18 Định lý 20 (Định lý 7.12, tài liệu [2]) Cho ξ = (ξt , Ft ), t T trình Ito với: T E|βt (ω)|dt < ∞ Cho α = (αt (x), Bt+ ), T hàm mà với hầu hết t, t t T: αt (ξ) = E(βt /Ftξ ) i) Quá trình ngẫu nhiên W = (W t , Ftξ ), T với: t t W t = ξt − αs (ξ)ds trình Wiener, trình ξ trình loại khuếch tán với: dξt = αt (ξ)dt + dW t ii) Nếu: T βt2 (ω)dt < ∞ P =1 với martingale X = (xt , Ftξ ), T cho phép biến thể liên tục với t phần tử đại diện: t fs (ω)dW s xt = x0 + trình f = (fω , Fsξ ), T thỏa mãn: s T fs2 (ω)ds < ∞ P =1 Hơn nữa, martingale X = (xt , Ftξ ) bình phương khả tích, thì: T Efs2 (ω)ds < ∞ Định lý 21 (Định lý 7.17, tài liệu [2]) Giả sử ξ = (ξt , Ft ) trình Ito: t ξt = ξ0 + t As (ω)ds + Bs (ω)dWs A = (As (ω), Fs ) B = (Bs (ω), Fs ) trình cho: T T |As (ω)|ds < ∞, |Bs (ω)|ds < ∞ (5) Giả sử ξ = (ξt , Ft ) trình Ito γ = (γt , Ft )(0 t T ) trình Wiener độc lập với trình Wiener W A, B trình cho (5) điều 68 kiện sau thực hiện: T E|At (ω)|dt < ∞ Khi tồn tại: i) Hàm đo A = (At (x), Bt∗+ ) B = (B t (x), Bt∗+ ), t, t t T thỏa mãn (hcc) T , đẳng thức: A = E(At (ω)/Ftξ ), B = ii) Quá trình Wiener W = (W t , Ftξ ), Bt2 (ω) T cho trình ξ biểu t diễn dạng: t ξt = ξ0 + t As (ξ)ds + B s (ξ)dW s Nếu bổ sung giả thiết Bt2 (ω) > (hcc) với hầu tất t, Wiener W phù hợp họ F ξ = (Ftξ ), t t T trình T Định lý 22 (Định lý 7.18, tài liệu [2]) Cho ξ = (ξt , Ft ) trình Ito với vi phân: dξt = At (ω)dt + bt (ξ)dWt với ηt = (ηt , Ft ) trình loại khuếch tán với: dηt = At (η)dt+bt (η)dWt , η0 = ξ0 (6) ξ0 biến ngẫu nhiên F0 − đo với P(|ξ0 | < ∞) = Giả sử điều kiện sau thỏa mãn: i) Hàm không đoán định trước at (x) bt (x) thỏa mãn: t |a(t, x) − a(t, y)|2 + |b(t, x) − b(t, y)|2 |xs − ys |2 dK(s) + L2 |xt − yt |2 L1 t a2 (t, x) + b2 (t, x) L1 (1 + x2s )dK(s) + L2 (1 + x2t ) (với L1 , L2 số, K hàm liên tục phải không giảm, K(s) x, y ∈ C1 ) nghiệm phương trình (6) ii) Với t, t T , phương trình sau có nghiệm (hcc): bt (ξ)αt (ω) = At (ω) − at (ξ) T αt2 (ω)dt < ∞ iii) P =1 69 1, T iv) Eexp − αt (ω)dWt − T αt2 (ω)dt =1 Khi µξ ∼ µn và: T dµn (ξ) = E exp − αt (ω)dWt − dµξ T αt2 (ω)dt /FTξ , hcc Định lý 23 (Định lý 7.19, tài liệu [2]) Giả sử ξ = (ξt ) η = (ηt ), t T hai trình dạng khuếch tán với: dξt = At (ξ)dt + Bt (ξ)dWt , ξ0 = η0 dηT = at (η)dt + bt (η)dWt Giả sử giả thiết (i) (ii) định lý 22 thực (với At (ω) = At (ξ)) Nếu: T P 2 (b+ t (ξ)) As (ξ) + as (ξ) ds < ∞ T =P 2 (b+ t (η)) As (η) + as (η) ds < ∞ 0 Khi đó: µξ ∼ µη mật độ dµη /dµξ dµξ /dµη cho bởi: T dµη T + + (bs (ξ))2 [A2s (ξ) + a2s (ξ)]ds (ξ) = exp − (bs (ξ)) [As (ξ) + as (ξ)]dξs + dµξ 0 dµη (ξ) = exp dµξ T (b+ s (ξ)) [As (η) − as (η)]dηs − T + (b (ξ))[A2s (η) − a2s (η)]ds 20 s giả thiết: i) Hàm không đoán định trước at (x) bt (x) thỏa mãn: t |a(t, x) − a(t, y)|2 + |b(t, x) − b(t, y)|2 |xs − ys |2 dK(s) + L2 (xt − yt )2 L1 t a2 (t, x) + b2 (t, x) L1 (1 + x2j )dK(s) + L2 (1 + x2t ) đảm bảo cho tồn nghiệm phương trình: dηt = at (η)dt + bt (η)dWt , η0 = ξ0 ii) Đối với t, t T , phương trình: bt (ξ)at (ξ) = At (ω) − at (ξ) có nghiệm tương ứng với at (ω)(hcc) Bổ đề 24 (Bổ đề 10.1, tài liệu [2]) Giả sử ξ = (ξt , Ft ), t ngẫu nhiên Gauss với ξt = ξ0 + as ds + Bs dWs ; B (s) t T trình t σ > 0, s T trình Wiener W = (Wt , Ft ) không phụ thuộc trình Gauss a = (at , Ft ); 70 T s a2s ds < ∞ T với (at /ξ0 ) ≡ P = Nếu biến ngẫu nhiên η = η(ω) trình ξ = (ξt ); t ∈ [0; T ] dạng hệ thức Gauss t, t T ta có t thể tìm hàm G(t, s); G2 (t, s)ds < ∞ cho (hcc): t với s E(η/Ftξ ) = E(η/ξ0 ) + t G(t, s)dξs Định lý 25 (Định trình:  lý 10.3, tài liệu [2]) Giả sử hệ phương   bi (t)dWi (t)  dθt = [a0 (t) + a1 (t)θt + a2 (t)ξt ]dt + i=1    dξt = [A0 (t) + A1 (t)θt + A2 (t)ξt ]dt + (7) Bi (t)dWi (t) i=1 với W1 (t), W2 (t) trình Wiener độc lập, có hệ số thỏa mãn điều kiện: a0 (t) = [a01 (t), , a0k (t)] A0 (t) = [A01 (t), , A0l (t)] a1 (t) = a1ij (t) (k×k) A1 (t) = A1ij (t) (l×k) a2 (t) = a2ij (t) (k×l) A2 (t) = A2ij (t) (l×l) b1 (t) = b1ij (t) (k×k) (t) B1 (t) = Bij (l×k) b2 (t) = b2ij (t) (k×l) (t) B2 (t) = Bij (l×l) Khi đó, vectơ mt ma trận γt nghiệm hệ phương trình (7) và: dmt = [a0 (t) + a1 (t)mt + a2 (t)ξt ]dt +[(b ◦ B)(t) + γt A∗1 (t)]((B ◦ B)(t))−1 [dξt − (A0 (t) + A1 (t)mt + A2 (t)ξt )dt] Bổ đề 26 (Bổ đề 10.4, tài liệu [2]) Giả sử W = ([W1 (t), , WN (t)], Ft ), t T N - chiều trình Wiener giả sử B = (Bt , Ft ) trình ngẫu nhiên, Bt = Bij (t) n×N (hcc): T Tr Bt Bt∗ dt < ∞ Giả sử trình ma trận D = (Dt , Ft ); Dt = Dij (t) t, t (n×k) cho với hầu hết T (hcc): Dt Dt∗ = Bt Bt∗ Khi tồn trình Wiener k chiều W = ([W1 (t), , Wk (t)]) cho với t, t T (hcc): t t Bs dWs = Ds dWs 71 Định lý 27 (Định lý 13.1, tài liệu [3]) (Định lý điều kiện tương quan chuẩn) Giả sử (θ, ξ) = ([θ1 , , θk ], [ξ1 , , ξl ]) vectơ Gauss với Eθ = m0 , Eξ = mξ , Dθθ = cov(θ, θ), Dθξ = cov(θ, ξ), Dξξ = cov(ξ, ξ) Khi đó, kì vọng điều kiện E(θ/ξ) covari- ance điều kiện: cov(θ, θ/ξ) = E{[θ − E(θ/ξ)][θ − E(θ/ξ)]∗ /ξ} cho công thức: + E(θ/ξ) = mθ + Dθξ Dξξ (ξ − mξ ) + cov(θ, θ/ξ) = Dθθ − Dθξ Dξξ (Dξξ )∗ Các điều kiện: (2) (1) (2) i) Nếu g(t, ξ) hàm a0 , Aij , b(1) ij , bij , Bij , Bij E[g(t, ξ)] < ∞, t = 0, 1, ii) Với xác suất |a(1) ij (t, ξ)| iii) E( θ0 (1) c, |Aij (t, ξ)| c + ξ0 ) < ∞, x = (x1 , , xn ), x n = i=1 iv) Phân phối điều kiện P(θ0 Từ (i) - (iii) ta có: E( θ0 x2i a/ξ0 ) Gauss(hcc) + ξ0 ) < ∞ với t < ∞ Định lý 28 (Định lý 13.3, tài liệu [3])Giả sử điều kiện từ (i) (iv) thực Khi dãy (θ, ξ) thỏa mãn: θt+1 = a0 (t, ξ) + a1 (t, ξ)θt + b1 (t, ξ)ξ1 (t + 1) + b2 (t, ξ)ξ2 (t + 1) ξt+1 = A0 (t, ξ) + A1 (t, ξ)θt + B1 (t, ξ)ε1 (t + 1) + B2 (t, ξ)ε2 (t + 1) Gauss điều kiện, nghĩa phân phối điều kiện: P(θ0 a0 , , θt at /Ftξ ) Gauss (hcc) với t = 0, 1, Định lý 29 (Định lý 13.4, tài liệu [3])Giả sử điều kiện i) - iv) thỏa mãn Khi đó, tham số mt γt xác định phương trình hồi quy: mt+1 = [a0 + a1 mt ] + [b ◦ B + a1 γt A∗1 ][B ◦ B + A1 γt A∗1 ]+ [ξt+1 − A0 − A1 mt ] γt+1 = [a1 γt a∗1 + b ◦ b] + [b ◦ B + a1 γt A∗1 ][B ◦ B + B1 γt A∗1 ]+ [b ◦ B + a1 γt A∗1 ]∗ Hệ 30 (Định lý 13.4, tài liệu [3]) Cho: a0 (t, ξ) = a0 (t) + a2 ξt A0 (t, ξ) = A0 (t) + A2 ξt a1 (t, ξ) = a1 (t) 72 A1 (t, ξ) = A1 (t) bi (t, ξ) = bi (t) Bi (t, ξ) = Bi (t), i = 1, với toàn hàm a1 (t), a1 (t), a1 (t), a1 (t); j = 0, 1, 2; i = 1, 2, hàm chứa t Nếu vector (θ0 , ξ0 ) Gauss, trình (θt , ξt ), t = 0, 1, 2, Gauss Trong trường hợp phương sai γt không phụ thuộc vào "cơ hội" T rγt xác định theo nghĩa sai sô ước lượng bình phương θt dựa quan sát ξ0t = (ξ0 , , ξt ) Bổ đề 31 (Bổ đề 14.1, tài liệu [3]) Giả sử vectơ ngẫu nhiên (α, β) với E(α2 + β ) < ∞ giả sử (α, β) vectơ Gauss với mô men bậc (α, β), nghĩa là: Eαi = Eαi , Eβ i = Eβ i , Eαβ = Eαβ Giả sử l(β) hàm tuyến tính β ∈ R1 cho (hcc): l(β) = E(α/β) Khi l(β) ước lượng tuyến tính tối ưu α từ β El(β) = Eα 73 KẾT LUẬN Luận văn trình bày vấn đề sau: − Trình bày có hệ thống khái niệm bản: trình ngẫu nhiên, tích phân Ito, trình Ito, phương trình Ito, công thức Ito, điều kiện tồn nghiệm phương trình vi phân ngẫu nhiên − Trình bày khái niệm lọc, phương trình lọc tổng quát, lọc trình Markov khuếch tán lọc tuyến tính tối ưu dãy dừng với phổ hữu tỉ − Trình bày trình Wiener theo nghĩa rộng, lọc tuyến tính tối ưu số lớp trình không dừng, ước lượng tuyến tính trình ngẫu nhiên dừng theo nghĩa rộng với phổ hữu tỉ Mặc dù cố gắng, song thời gian có hạn trình độ thân nhiều hạn chế nên luận văn thật khó tránh khỏi thiếu sót Vì vậy, mong nhận góp ý chân thành từ phía thầy, cô giáo bạn đọc để luận văn hoàn thiện 74 TÀI LIỆU THAM KHẢO Tiếng Việt [1] Phạm Văn Kiều (2002), Giáo trình thống kê toán học , Đề tài nghiên cứu khoa học cấp bộ, Hà Nội Tiếng Anh [2] Gihman, I I., Skorohod, A V (1971, 1975), Theory of Stochastic processes - Vol I, II, Springer - Verlag, Berlin, Heidelberg, New York [3] Liptser, R S., Shiryaev, A N (1974), Statistics of Random Processes - Volume I, Springer - Verlag, Berlin, Heidelberg, New York, Tokyo [4] Liptser, R S., Shiryaev, A N (1974), Statistics of Random Processes - Volume II, Springer - Verlag, Berlin, Heidelberg, New York, Tokyo [5] Rao, S R (1968), Linear statistical method and its applications [6] Shiryaev, A N (1980), Probability 75 ... lý thuyết lọc vào phương trình vi phân ngẫu nhiên ước lượng tham số trình ngẫu nhiên III ĐỐI TƯỢNG NGHIÊN CỨU • Phương trình lọc tổng quát • Ước lượng tuyến tính trình ngẫu nhiên IV PHƯƠNG PHÁP... 2.4 Lọc tuyến tính tối ưu dãy dừng với phổ hữu tỉ 22 ƯỚC LƯỢNG TUYẾN TÍNH CỦA QUÁ TRÌNH NGẪU NHIÊN 31 3.1 Quá trình Wiener theo nghĩa rộng 3.2 Ước lượng tuyến tính. .. sau: Quá trình ngẫu nhiên, tích phân Ito, trình Ito, phương trình Ito, công thức Ito, điều kiện tồn nghiệm phương trình vi phân ngẫu nhiên Chương 2: Trình bày khái niệm lọc, phương trình lọc tổng