Thiết kế triển khai phần cứng tăng tốc tính toán mô hình Llama 3.2 1B trên nhiều FPGA - Khối truy cập bộ nhớ
Đồ án tốt nghiệp · Đại học · năm 2025 · đề tài tham khảo
| Loại tài liệu | Đồ án tốt nghiệp |
|---|---|
| Bậc học | Đại học |
| Ngành | Xã hội, ngôn ngữ, y dược |
| Tác giả | Trần Quang Huy |
| Người hướng dẫn | Nguyễn Đức Minh; Hoàng Phương Chi |
| Cơ sở đào tạo | Đại học Bách khoa Hà Nội |
| Năm | 2025 |
| Nguồn | Thư viện số Đại học Bách khoa Hà Nội · trang gốc |
Tóm tắt
Nghiên cứu và đề xuất kiến trúc tăng tốc suy luận (inference) cho mô hình ngôn ngữ lớn Llama trên nền tảng FPGA nhằm nâng cao hiệu năng xử lý các tác vụ tuần tự trong kiến trúc Transformer. Phân tích hạn chế của GPU trong giai đoạn sinh văn bản (Generation) và xây dựng kiến trúc phần cứng gồm các bộ xử lý chuyên dụng, bộ DMA truyền dữ liệu tốc độ cao và bộ Router đồng bộ dữ liệu phục vụ quá trình suy luận của mô hình LLM. Hệ thống được triển khai trên hai FPGA Xilinx Alveo U250 kết nối qua giao tiếp QSFP, hỗ trợ thực hiện suy luận đầu cuối cho mô hình Llama trong môi trường máy chủ. Nghiên cứu hướng đến tối ưu hiệu năng, khả năng truyền dữ liệu và mở rộng ứng dụng FPGA trong lĩnh vực trí tuệ nhân tạo và mô hình ngôn ngữ lớn.
Bản toàn văn lưu tại thư viện Đại học Bách khoa Hà Nội
Thông tin và tóm tắt ở trên lấy từ kho số mở của thư viện trường. Bản toàn văn do thư viện trường quản lý — có nơi cho đọc trực tuyến, có nơi cần tài khoản bạn đọc của trường.
Mở tại thư viện trường ↗
Dùng tài liệu tham khảo cho đúng
- Đọc để hiểu cách người trước đặt câu hỏi, chọn phương pháp, trình bày số liệu — rồi tự làm với dữ liệu và bối cảnh của bạn.
- Ý, số liệu, bảng biểu lấy từ tài liệu này phải trích dẫn (tác giả, năm, tên đề tài, cơ sở đào tạo).
- Đề tài trùng tên vẫn làm được nếu khác đơn vị khảo sát, thời gian hoặc cách tiếp cận — nêu rõ điểm khác trong phần mở đầu.
Hướng dẫn chọn đề tài, cấu trúc và số liệu cho ngành này: Luận văn xã hội, ngôn ngữ, y dược · Hỏi đáp từng chương với người hướng dẫn số: Học Giả Số · Công cụ số: Luận Văn Số.
Đề tài cùng ngành
- Xác định vùng bất thường trong ảnh y tế bằng mô hình tạo sinh
- Vietnamese dermatology multimodal chatbot
- Mô hình thú mồi với sự lan truyền bệnh dịch nhanh trong quần thể thú
- Thiết kế hệ thống điều hòa không khí cho bệnh viện sản nhi tại thành phố Thanh Hóa
- Nghiên cứu phát triển que thử phát hiện nhanh virus Dengue gây bệnh sốt xuất huyết
- Nghiên cứu biểu hiện protein L1 của virus HPV trên trên dòng tế bào CHO-S
- Design the enteral feeding pump
- Cải thiện giải pháp phát hiện mức độ sao chép mã nguồn sử dụng đồ thị và ngôn ngữ lớn
Tác giả muốn gỡ, sửa thông tin hoặc bổ sung bản toàn văn: gửi yêu cầu qua trang Liên hệ, kèm đường dẫn trang này.