Phương pháp cắt tỉa mô hình ngôn ngữ lớn hiệu quả
Đồ án tốt nghiệp · Đại học · năm 2025 · đề tài tham khảo
| Loại tài liệu | Đồ án tốt nghiệp |
|---|---|
| Bậc học | Đại học |
| Ngành | Xã hội, ngôn ngữ, y dược |
| Tác giả | Đinh Việt Hà |
| Người hướng dẫn | Thân Quang Khoát |
| Cơ sở đào tạo | Đại học Bách khoa Hà Nội |
| Năm | 2025 |
| Nguồn | Thư viện số Đại học Bách khoa Hà Nội · trang gốc |
Tóm tắt
Nghiên cứu và thiết kế phương pháp cắt tỉa bán cấu trúc cho mô hình ngôn ngữ lớn nhằm giảm chi phí lưu trữ và suy luận nhưng vẫn duy trì hiệu năng xử lý ngôn ngữ. Phân tích thực trạng các phương pháp cắt tỉa hiện nay còn phụ thuộc vào độ đo thủ công hoặc yêu cầu số lượng tham số học lớn, gây hạn chế về chi phí tính toán và khả năng mở rộng. Đề xuất giải pháp học mặt nạ cắt tỉa N:M bằng lấy mẫu tập con khả vi với kỹ thuật Gumbel-Top-K kết hợp cơ chế ủ nhiệt. Kết luận khẳng định phương pháp đạt perplexity và độ chính xác tốt hơn trên các mô hình OPT và các tập ARC, SciQ, PIQA, HellaSwag, RACE, WinoGrande, đồng thời mở rộng tốt với dữ liệu lớn
Bản toàn văn lưu tại thư viện Đại học Bách khoa Hà Nội
Thông tin và tóm tắt ở trên lấy từ kho số mở của thư viện trường. Bản toàn văn do thư viện trường quản lý — có nơi cho đọc trực tuyến, có nơi cần tài khoản bạn đọc của trường.
Mở tại thư viện trường ↗
Dùng tài liệu tham khảo cho đúng
- Đọc để hiểu cách người trước đặt câu hỏi, chọn phương pháp, trình bày số liệu — rồi tự làm với dữ liệu và bối cảnh của bạn.
- Ý, số liệu, bảng biểu lấy từ tài liệu này phải trích dẫn (tác giả, năm, tên đề tài, cơ sở đào tạo).
- Đề tài trùng tên vẫn làm được nếu khác đơn vị khảo sát, thời gian hoặc cách tiếp cận — nêu rõ điểm khác trong phần mở đầu.
Hướng dẫn chọn đề tài, cấu trúc và số liệu cho ngành này: Luận văn xã hội, ngôn ngữ, y dược · Hỏi đáp từng chương với người hướng dẫn số: Học Giả Số · Công cụ số: Luận Văn Số.
Đề tài cùng ngành
- Cải thiện khả năng giải một số bài toán Olympic của mô hình ngôn ngữ lớn thông qua phản hồi và điều chỉnh từ đa tác nhân
- Hệ thống lập kế hoạch cho điểm đến và lịch trình du lịch
- Thiết kế hệ thống điều hòa không khí và thông gió cho Bệnh viện đa khoa tại Thanh Hóa
- Đánh giá liều bệnh nhân trong X-Quang thường quy
- Aptis Learning Platform With Hybrid AI Scoring
- Hệ thống trợ giúp vận hành và quản lý thông tin liên quan đến tour du lịch
- Nâng cao chất lượng đội ngũ cán bộ quản lý tại Nhà xuất bản lao động - xã hội giai đoạn 2017-2021
- Hoàn thiện công tác đấu thầu tập trung trang thiết bị y tế tại Sở Y tế tỉnh Tuyên Quang
Tác giả muốn gỡ, sửa thông tin hoặc bổ sung bản toàn văn: gửi yêu cầu qua trang Liên hệ, kèm đường dẫn trang này.