Thiết kế triển khai phần cứng tăng tốc tính toán mô hình Llama 3.2 1B trên nhiều FPGA - Khối xử lý vector
Đồ án tốt nghiệp · Đại học · năm 2025 · đề tài tham khảo
| Loại tài liệu | Đồ án tốt nghiệp |
|---|---|
| Bậc học | Đại học |
| Ngành | Công nghệ thông tin |
| Tác giả | Hoàng Nguyễn Huy Tùng |
| Người hướng dẫn | Nguyễn Đức Minh |
| Cơ sở đào tạo | Đại học Bách khoa Hà Nội |
| Năm | 2025 |
| Nguồn | Thư viện số Đại học Bách khoa Hà Nội · trang gốc |
Tóm tắt
Thiết kế kiến trúc tăng tốc suy luận đầu-cuối cho mô hình ngôn ngữ lớn Llama trên FPGA, nhằm khắc phục hạn chế về hiệu năng của GPU đối với các tác vụ tuần tự trong quá trình sinh văn bản của Transformer. Kiến trúc đề xuất gồm nhiều bộ xử lý có khả năng nhận lệnh và thực hiện các phép toán phục vụ inference, kết hợp DMA để phân phối dữ liệu tốc độ cao và Router để đồng bộ dữ liệu giữa các khối tính toán. Hệ thống được triển khai trên hai FPGA Xilinx Alveo U250, kết nối với nhau qua cáp QSFP và hoạt động trên cùng một máy chủ. Giải pháp hướng tới khai thác khả năng tùy biến và xử lý song song của FPGA để xây dựng nền tảng tăng tốc LLM, đặc biệt cho các tác vụ inference yêu cầu hiệu năng và băng thông dữ liệu cao.
Bản toàn văn lưu tại thư viện Đại học Bách khoa Hà Nội
Thông tin và tóm tắt ở trên lấy từ kho số mở của thư viện trường. Bản toàn văn do thư viện trường quản lý — có nơi cho đọc trực tuyến, có nơi cần tài khoản bạn đọc của trường.
Mở tại thư viện trường ↗
Dùng tài liệu tham khảo cho đúng
- Đọc để hiểu cách người trước đặt câu hỏi, chọn phương pháp, trình bày số liệu — rồi tự làm với dữ liệu và bối cảnh của bạn.
- Ý, số liệu, bảng biểu lấy từ tài liệu này phải trích dẫn (tác giả, năm, tên đề tài, cơ sở đào tạo).
- Đề tài trùng tên vẫn làm được nếu khác đơn vị khảo sát, thời gian hoặc cách tiếp cận — nêu rõ điểm khác trong phần mở đầu.
Hướng dẫn chọn đề tài, cấu trúc và số liệu cho ngành này: Luận văn công nghệ thông tin · Hỏi đáp từng chương với người hướng dẫn số: Học Giả Số · Công cụ số: Luận Văn Số.
Đề tài cùng ngành
- Xây dựng website mạng xã hội về sách
- Xây dựng công cụ kiểm thử và quản lý lỗi an toàn bảo mật của phần mềm Web
- Ứng dụng thuật toán học sâu để dự đoán ô mục tiêu trong tiến trình chuyển giao trong mạng di động 5G - Phân tích và đánh giá
- Research on traffic control gesture recognition for autonomous vehicles
- Deep learning-based human-following control algorithm for the mir100 robot
- Hệ thống quản lý giấy tờ cho sinh viên
- Xây dựng mô hình dự đoán xu hướng thay đổi của tài khoản tại Kho bạc Hà Nội.
- Xây dựng, thử nghiệm giải pháp tìm kiếm theo yêu cầu người dùng, sử dụng Cloud computing và thuật toán Mapreduce
Tác giả muốn gỡ, sửa thông tin hoặc bổ sung bản toàn văn: gửi yêu cầu qua trang Liên hệ, kèm đường dẫn trang này.