LuanVan.vnLuận Văn
Gửi thư

XÂY DỰNG MÔ HÌNH DỰ ĐOÁN TỪ TIẾP THEO

Khoá luận tốt nghiệp · Đại học · năm 2024 · đề tài tham khảo

Loại tài liệuKhoá luận tốt nghiệp
Bậc họcĐại học
NgànhCông nghệ thông tin
Tác giảNgô Huỳnh Công Trứ
Người hướng dẫnLê Huỳnh Quốc Bảo
Cơ sở đào tạoTrường Đại học Cần Thơ
Năm2024
NguồnThư viện số Trường Đại học Cần Thơ · trang gốc

Tóm tắt

Nghiên cứu này tập trung vào việc xây dựng một mô hình dự đoán từ tiếp theo hiệu quả, nhằm cải thiện chất lượng của các hệ thống xử lý ngôn ngữ tự nhiên. Dự đoán từ tiếp theo là một nhiệm vụ quan trọng trong xử lý ngôn ngữ tự nhiên (NLP), mô hình này có tiềm năng ứng dụng trong các hệ thống tạo văn bản tự động, chatbot và các ứng dụng khác liên quan đến xử lý ngôn ngữ tự nhiên. Để đạt được mục tiêu này, ba mô hình mạng nơ-ron tiên tiến bao gồm LSTM (Long Short-Term Memory), GRU (Gated Recurrent Unit), và Transformer đã được sử dụng nhằm học hỏi mối quan hệ giữa các từ và dự đoán từ tiếp theo có khả năng xuất hiện cao nhất. Mô hình được huấn luyện trên một tập dữ liệu văn bản tiếng Việt, với quy mô 600.000 ký tự. Để tăng cường khả năng biểu diễn của mô hình, mô hình được sử dụng các kỹ thuật đặc trưng như phân tách từ (Tokenization), tạo chuỗi N-gram, đệm dữ liệu (Padding). Sau tiền xử lí dữ liệu thu được 3847 từ khác nhau, có 141,704 mẫu đầu vào (chuỗi n-gram). Kết quả đánh giá cho thấy mô hình đạt được độ chính xác cao từ 91 – 93% trên tập dữ liệu kiểm thử, riêng mô hình Transformer do hạn chế cấu hình nên độ chính xác chỉ đạt được 70%. Mô hình này được phát triển trong nghiên cứu có thể được ứng dụng rộng rãi trong các hệ thống chatbot để tạo ra các cuộc hội thoại tự nhiên và hấp dẫn hơn. Bằng cách dự đoán từ tiếp theo một cách chính xác, chatbot có thể hiểu ý định của người dùng tốt hơn và đưa ra những phản hồi phù hợp. Ngoài ra, mô hình này còn có tiềm năng trong việc hỗ trợ các nhà văn sáng tạo ý tưởng bằng cách đề xuất các từ và cụm từ liên quan, từ đó thúc đẩy quá trình sáng tạo văn bản.
Bản toàn văn lưu tại thư viện Trường Đại học Cần Thơ

Thông tin và tóm tắt ở trên lấy từ kho số mở của thư viện trường. Bản toàn văn do thư viện trường quản lý — có nơi cho đọc trực tuyến, có nơi cần tài khoản bạn đọc của trường.

Mở tại thư viện trường ↗
Dùng tài liệu tham khảo cho đúng
  • Đọc để hiểu cách người trước đặt câu hỏi, chọn phương pháp, trình bày số liệu — rồi tự làm với dữ liệu và bối cảnh của bạn.
  • Ý, số liệu, bảng biểu lấy từ tài liệu này phải trích dẫn (tác giả, năm, tên đề tài, cơ sở đào tạo).
  • Đề tài trùng tên vẫn làm được nếu khác đơn vị khảo sát, thời gian hoặc cách tiếp cận — nêu rõ điểm khác trong phần mở đầu.

Hướng dẫn chọn đề tài, cấu trúc và số liệu cho ngành này: Luận văn công nghệ thông tin · Hỏi đáp từng chương với người hướng dẫn số: Học Giả Số · Công cụ số: Luận Văn Số.

Đề tài cùng ngành

Tác giả muốn gỡ, sửa thông tin hoặc bổ sung bản toàn văn: gửi yêu cầu qua trang Liên hệ, kèm đường dẫn trang này.