phụ lục 4 mô hình ngôn ngữ grammar

Xây dựng mô hình ngôn ngữ cho tiếng việt

... ngôn ngữ tự nhiên dựa thống kê việc xây dựng mô hình ngôn ngữ Mô hình ngôn ngữ phân bố xác suất tập văn [2][10] Nói đơn giản, mô hình ngôn ngữ cho biết xác suất câu (hoặc cụm từ) thuộc ngôn ngữ ... thước mô hình ngôn ngữ lần 2.5.3 Nén (Compression): Mô hình ngôn ngữ có cấu trúc liệu Do cấu trúc liệu nén lại thuật toán nén, kích thước mô hình ngôn ngữ tất nhiên giảm Tuy nhiên, mô hình ngôn ngữ ... thước mô hình ngôn ngữ lớn Nó gây khó khăn việc lưu trữ mà làm tốc độ xử lý mô hình ngôn ngữ giảm xuống nhớ máy tính hạn chế Để xây dựng mô hình ngôn ngữ hiệu quả, phải giảm kích thước mô hình ngôn...

51
756
3

Tìm hiểu mô hình ngôn ngữ sử dụng phương pháp bloom filter

Danh mục: Công nghệ thông tin

... thực mô hình Perplexity mô hình đánh giá tập kiểm tra Trong thực tế, Perplexity thước đo để đánh giá mô hình ngôn ngữ, coi hàm cả ngôn ngữ mô hình Trên phương diện hàm mô hình, đánh giá mô hình mô ... 40 4. 1.1 Giới thiệu dịch máy thống kê 40 4. 1.2 Dịch máy thống kê dựa cụm 43 4. 1.3 Điểm BLEU 45 4. 2 Baseline System 46 4. 3 Ngữ liệu 46 4. 4 ... thành công mô hình ngôn ngữ 4- gram từ 1GB ngữ liệu huấn luyện, SRILM Tuy thời gian huấn luyện RandLM lâu SRILM vấn đề lớn, ta xây dựng mô hình ngôn ngữ lần Hơn nữa, dung lượng mô hình ngôn ngữ Bloom...

71
1,457
6

ỨNG DỤNG của mô HÌNH NGÔN NGỮ TRONG DỊCH máy THỐNG kê

Danh mục: Lập trình

... H(L) mô hình ngôn ngữ khác ngôn ngữ L, mô hình cho H(L) nhỏ mô hình ngôn ngữ thể xác ngôn ngữ L 1 .4. 2 Perplexity – Độ hỗn loạn thông tin Sau LM huấn luyện, cần phải đánh giá chất lượng mô hình ... thực mô hình Perplexity mô hình đánh giá tập kiểm tra Trong thực tế, Perplexity thước đo để đánh giá mô hình ngôn ngữ, coi hàm cả ngôn ngữ mô hình Trên phương diện hàm mô hình, đánh giá mô hình mô ... thước mô hình ngôn ngữ lần 1.3.3 Nén (Compression) Mô hình ngôn ngữ có cấu trúc liệu Do cấu trúc liệu nén lại thuật toán nén, kích thước mô hình ngôn ngữ tất nhiên giảm Tuy nhiên, mô hình ngôn ngữ...

46
1,187
2

Đề tài các mô hình ngôn ngữ Ngram và ứng dụng

Danh mục: Điện - Điện tử - Viễn thông

... 𝑤𝑤𝑖𝑖−1 ) có 𝑛𝑛 + từ Mô hình ngôn ngữ gọi mô hình ngôn ngữ N-gram Với công thức này, ta xây dựng mô hình ngôn ngữ dựa việc thống kê cụm 2.3 Khó khăn xây dựng mô hình ngôn ngữ N-gram 2.3.1 Phân ... cứu mô hình ngôn ngữ tiền đề nghiên cứu lĩnh vực Mô hình ngôn ngữ có nhiều hướng tiếp cận, chủ yếu xây dựng theo mô hình N-gram mà ta đề cập Mô hình ngôn ngữ N-gram 2.1 Một số khái niệm Ngữ liệu: ... cuối lớn giá trị 𝐻𝐻(𝐿𝐿) gốc Do vậy, tính 𝐻𝐻(𝐿𝐿) mô hình ngôn ngữ khác ngôn ngữ 𝐿𝐿, mô hình cho 𝐻𝐻(𝐿𝐿) nhỏ mô hình ngôn ngữ thể xác ngôn ngữ 𝐿𝐿 4. 1.2 Độ hỗn loạn thông tin (perplexity) Độ hỗn...

26
1,919
8

Nghiên cứu mô hình ngôn ngữ n-gram và ứng dụng trong bài toán thêm dấu cho tiếng việt không dấu

Danh mục: Công nghệ thông tin

... (Compression) Mô hình ngôn ngữ có cấu trúc liệu Do cấu trúc liệu đƣợc nén lại thuật toán nén, kích thƣớc mô hình ngôn ngữ tất nhiên giảm Tuy nhiên, mô hình ngôn ngữ bị nén, độ xác tốc độ mô hình ngôn ngữ ... công thức cuối lớn giá trị H(L) gốc Do vậy, tính H(L) mô hình ngôn ngữ khác ngôn ngữ L, mô hình cho H(L) nhỏ mô hình ngôn ngữ thể xác ngôn ngữ L 2.6.2 Perplexity – Độ hỗn loạn thông tin: Độ hỗn ... độ xử lý mô hình ngôn ngữ giảm xuống nhớ máy tính hạn chế Để xây dựng mô hình ngôn ngữ hiệu quả, phải giảm kích thƣớc mô hình ngôn ngữ mà đảm bảo độ xác Vấn đề đƣợc giải phần 2.6 2 .4. Các phƣơng...

71
3,135
3

Xử lý bài toán thêm dấu cho tiếng việt không dấu dựa trên nghiên cứu mô hình ngôn ngữ N_Gram

Danh mục: Công nghệ thông tin

... dụng lĩnh vực xử lí ngôn ngữ tự nhiên 1.1 Mô hình LM 1.2 Mô hình ngôn ngữ văn phạm 1.3 Các mô hình ngôn ngữ khác dựa khái niệm 1 .4 Mô hình ngôn ngữ N-gram Chương 2: Mô hình ngôn ngữ N-gram 2.1 Các ... sâu sắc ngôn ngữ học 1.1 MÔ HÌNH NGÔN NGỮ (LANGUAGE MODEL - LM) Mô hình ngôn ngữ phân bố xác suất tập văn [2] Hay đơn giản, mô hình ngôn ngữ cho biết xác suất câu (hoặc cụm từ) ngôn ngữ Ví dụ ... cứu mô hình ngôn ngữ tiền đề để nghiên cứu lĩnh vực khác 6 Mô hình ngôn ngữ có nhiều hướng tiếp cận chủ yếu xây dựng theo mô hình N-gram 1.2 MÔ HÌNH NGÔN NGỮ VĂN PHẠM * Các cấp độ ngôn ngữ: ...

72
673
1

Ứng dụng mô hình ngôn ngữ ngữ nghĩa thống kê trong gợi ý mã cho ngôn ngữ c

Danh mục: Thạc sĩ - Cao học

... 43 v 4. 3 Đánh giá độ xác 44 4. 3.1 Phân tích ảnh hưởng yếu tố 44 4. 3.1.1 Mục tiêu 44 4. 3.1.2 Thiết kế thực nghiệm 44 4. 3.1.3 Kết 44 4. 3.2 ... áp dụng mô hình ngôn ngữ ngữ nghĩa thống kê gợi ý mã cho ngôn ngữ C 1.2 Mục tiêu phương pháp luận Luận văn xây dựng chương trình mô mô hình ngôn ngữ ngữ nghĩa thống kê gợi ý mã cho ngôn ngữ C, ... thuật toán cần hiểu rõ để áp dụng mô hình ngôn ngữ ngữ nghĩa thống kê gợi ý mã cho ngôn ngữ C Chương 3: Áp dụng mô hình ngôn ngữ ngữ nghĩa thống kê gợi ý mã cho ngôn ngữ C Trong phần luận văn trình...

61
309
0

SINH câu MIÊU tả CHO HÌNH ẢNH sử DỤNG mô HÌNH NGÔN NGỮ

Danh mục: Khoa học xã hội

... Data Mining ) 2.2 Mô hình ngôn ngữ 2.2.1 Khái quát Mô hình ngôn ngữ phân bố xác suất tập văn bản, cho biết xác suất câu, dãy từ thuộc ngôn ngữ Mô hình ngôn ngữ tốt đánh giá câu ngữ pháp, trôi chảy ... chất lượng mô hình ngôn ngữ Vậy, làm để đánh giá cho mô hình ngôn ngữ? câu hỏi giải đáp mục Chúng ta trực quan đánh giá thông qua kết sử dụng mô hình ngôn ngữ nhiên cách đánh giá phụ thuộc vào ... cụ Ngôn ngữ lập trình Python 2.7 Công cụ phát triển Ipython notebook Framework Caffe Công cụ tạo mô SRILM hình ngôn ngữ 48 4. 2 Quá trình thử nghiệm 4. 2.1 Nhận dạng đối tượng Chúng sử dụng mô hình...

73
437
0

Tóm tắt luận văn thạc sĩ SINH câu MIÊU tả CHO HÌNH ẢNH sử DỤNG mô HÌNH NGÔN NGỮ

Danh mục: Khoa học xã hội

... xác thống kê 2.2 Mô hình ngôn ngữ 2.2.1 Khái quát Mô hình ngôn ngữ phân bố xác suất tập văn bản, cho biết xác suất câu, cụm từ thuộc ngôn ngữ Mô hình ngôn ngữ tốt đánh giá câu ngữ pháp, trôi chảy ... trọng mô hình ngôn ngữ N-gram Mô hình ngôn ngữ quan trọng việc phát từ bị nhiễu Trong nhận dạng giọng nói, với đầu vào tín hiệu âm có nhiễu, độ nhập nhằng, tương đồng cao 2.2.3 Mô hình ngôn ngữ ... cụ Ngôn ngữ lập trình Python 3.2 Công cụ phát triển Ipython notebook Framework Caffe 19 Công cụ tạo mô hình ngôn ngữ SRILM 4. 2 Quá trình thử nghiệm 4. 2.1 Nhận dạng đối tượng Chúng sử dụng mô hình...

24
335
0

Nghiên cứu mô hình ngôn ngữ dựa trên mạng nơron

Danh mục: Công nghệ thông tin

... giá kết dịch Chƣơng 1: MÔ HÌNH NGÔN NGỮ Mô hình ngôn ngữ nhận nhiều quan tâm nhà khoa học Đã có nhiều mô hình ngôn ngữ đưa nhằm cải tiến mô hình ngôn ngữ Mô hình ngôn ngữ sử dụng vào toán nhận ... thức mô hình ngôn ngữ, mô hình N-gram, phƣơng pháp làm mịn độ đo dùng để đánh giá mô hình ngôn ngữ Chương 2: Nghiên cứu sâu mô hình ngôn ngữ dựa mạng nơron Đặc biệt tập trung vào mô hình ngôn ngữ ... sánh mô hình ngôn ngữ .43 Bảng 3.11: Kết BLEU tích hợp với hệ thống dịch máy Moses 47 Bảng 3.12: Kết Perplexity so sánh mô hình ngôn ngữ .48 DANH MỤC HÌNH ẢNH Hình 2.1: Mô hình ngôn ngữ...

62
904
4

Tìm hiểu mô hình ngôn ngữ sử dụng phương pháp bloom filter

Danh mục: Công nghệ thông tin

... thực mô hình Perplexity mô hình đánh giá tập kiểm tra Trong thực tế, Perplexity thước đo để đánh giá mô hình ngôn ngữ, coi hàm cả ngôn ngữ mô hình Trên phương diện hàm mô hình, đánh giá mô hình mô ... 40 4. 1.1 Giới thiệu dịch máy thống kê 40 4. 1.2 Dịch máy thống kê dựa cụm 43 4. 1.3 Điểm BLEU 45 4. 2 Baseline System 46 4. 3 Ngữ liệu 46 4. 4 ... thành công mô hình ngôn ngữ 4- gram từ 1GB ngữ liệu huấn luyện, SRILM Tuy thời gian huấn luyện RandLM lâu SRILM vấn đề lớn, ta xây dựng mô hình ngôn ngữ lần Hơn nữa, dung lượng mô hình ngôn ngữ Bloom...

71
494
3

Sinh câu miêu tả cho hình ảnh sử dụng mô hình ngôn ngữ

Danh mục: Thạc sĩ - Cao học

... 2.1 .4 Sử dụng tập văn Error! Bookmark not defined 2.2 Mô hình ngôn ngữ Error! Bookmark not defined 2.2.1 Khái quát Error! Bookmark not defined 2.2.2 Tầm quan trọng mô hình ngôn ngữ ... 2.2.3 Mô hình ngôn ngữ N-gram Error! Bookmark not defined 2.2 .4 Xích Markov Error! Bookmark not defined 2.2.5 Ước lượng xác suất Error! Bookmark not defined 2.2.6 Đánh giá mô hình xác ... -* - ĐÀO BẢO LINH SINH CÂU MIÊU TẢ CHO HÌNH ẢNH SỬ DỤNG MÔ HÌNH NGÔN NGỮ Ngành: Công Nghệ Thông Tin Chuyên ngành: Kỹ Thuật Phần Mềm Mã số: 60 .48 .01.03 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN...

12
278
0

Nghiên cứu mô hình ngôn ngữ n gram cho tiếng việt và ứng dụng sửa lỗi dấu thanh trong tiếng việt

Danh mục: Công nghệ thông tin

... công thức cuối cùng sẽ lớn hơn giá trị H(L) gốc. Do vậy, khi tính H(L) của các mô hình ngôn ngữ khác nhau trên ngôn ngữ L, mô hình nào cho H(L) nhỏ hơn thì mô hình ngôn ngữ đó thể hiện chính xác ngôn ngữ L hơn. 1.6.2 Perplexity - Độ ... dữ liệu đó được nén lại bằng các thuật toán nén, thì kích thước của mô hình 20 ngôn ngữ tất nhiên là giảm. Tuy nhiên, khi một mô hình ngôn ngữ bị nén, thì độ chính xác và tốc độ của mô hình ngôn ngữ đều giảm (do phải ... khăn trong việc lưu trữ mà còn làm tốc độ xử lý của mô hình ngôn ngữ giảm xuống do bộ nhớ của máy tính là hạn chế. Để xây dựng mô hình ngôn ngữ hiệu quả, chúng ta phải giảm kích thước của mô hình ngôn ngữ mà vẫn đảm bảo độ chính xác. Vấn đề này sẽ được giải quyết ở phần 1.5 ...

72
758
1

Mô hình ngôn ngữ sử dụng mapreduce

Danh mục: Công nghệ thông tin

... đưa mô hình ngôn ngữ tiền đề để ứng dụng vào lĩnh vực Mô hình ngôn ngữ vấn đề quan trọng lĩnh vực xử lý ngôn ngữ tự nhiên Mô hình ngôn ngữ phân bố xác suất đoạn văn tập văn lớn Vì mô hình ngôn ngữ ... chương trình bày kiến thức mô hình ngôn ngữ định nghĩa mô hình ngôn ngữ, mô hình n-gram, phương pháp đánh giá mô hình ngôn ngữ phương pháp làm mịn 1.1 Giới thiệu: Mô hình ngôn ngữ phân bố xác suất ... Markov đưa mô hình Markov sử dụng để lập mô hình cho chuỗi chữ Sau Claude Shannon đưa mô hình cho chữ từ Mô hình ngôn ngữ định nghĩa sau: Tập V tập từ ngôn ngữ Ví dụ xây dựng mô hình ngôn ngữ cho...

54
429
0

Mô hình ngôn ngữ sử dụng Mapreduce

Danh mục: Quản trị kinh doanh

... đưa mô hình ngôn ngữ tiền đề để ứng dụng vào lĩnh vực Mô hình ngôn ngữ vấn đề quan trọng lĩnh vực xử lý ngôn ngữ tự nhiên Mô hình ngôn ngữ phân bố xác suất đoạn văn tập văn lớn Vì mô hình ngôn ngữ ... 46 4. 1.1 Thời gian nhớ 46 4. 1.2 Sự so sánh độ hỗn loạn thông tin mô hình ngôn ngữ 46 4. 2 Thực nghiệm 47 4. 2.1 Môi trường chạy thực nghiệm 47 4. 2.2 ... Chương 1: Mô hình ngôn ngữ 10 1.1 Giới thiệu: 10 1.2 Mô hình ngôn ngữ N-gram 11 1.3 Khó khăn xây dựng mô hình ngôn ngữ N-gram 13 1.3.1...

11
275
0

MÔ HÌNH NGÔN NGỮ SỬ DỤNG MAPREDUCE

Danh mục: Quản trị kinh doanh

... đưa mô hình ngôn ngữ tiền đề để ứng dụng vào lĩnh vực Mô hình ngôn ngữ vấn đề quan trọng lĩnh vực xử lý ngôn ngữ tự nhiên Mô hình ngôn ngữ phân bố xác suất đoạn văn tập văn lớn Vì mô hình ngôn ngữ ... 10 Chƣơng 1: Mô hình ngôn ngữ Trong xử lý ngôn ngữ tự nhiên, mô hình ngôn ngữ sử dụng rộng rãi Mô hình ngôn ngữ áp dụng nhiều lĩnh vực nhận dạng giọng nói, dịch máy Mô hình ngôn ngữ ngày nhận ... chương trình bày kiến thức mô hình ngôn ngữ định nghĩa mô hình ngôn ngữ, mô hình n-gram, phương pháp đánh giá mô hình ngôn ngữ phương pháp làm mịn 1.1 Giới thiệu: Mô hình ngôn ngữ phân bố xác suất...

54
227
0