LuanVan.vnLuận Văn
Gửi thư

Thiết kế triển khai phần cứng tăng tốc tính toán mô hình Llama 3.2 1B trên nhiều FPGA - Khối xử lý vector

Đồ án tốt nghiệp · Đại học · năm 2025 · đề tài tham khảo

Loại tài liệuĐồ án tốt nghiệp
Bậc họcĐại học
NgànhCông nghệ thông tin
Tác giảHoàng Nguyễn Huy Tùng
Người hướng dẫnNguyễn Đức Minh
Cơ sở đào tạoĐại học Bách khoa Hà Nội
Năm2025
NguồnThư viện số Đại học Bách khoa Hà Nội · trang gốc

Tóm tắt

Thiết kế kiến trúc tăng tốc suy luận đầu-cuối cho mô hình ngôn ngữ lớn Llama trên FPGA, nhằm khắc phục hạn chế về hiệu năng của GPU đối với các tác vụ tuần tự trong quá trình sinh văn bản của Transformer. Kiến trúc đề xuất gồm nhiều bộ xử lý có khả năng nhận lệnh và thực hiện các phép toán phục vụ inference, kết hợp DMA để phân phối dữ liệu tốc độ cao và Router để đồng bộ dữ liệu giữa các khối tính toán. Hệ thống được triển khai trên hai FPGA Xilinx Alveo U250, kết nối với nhau qua cáp QSFP và hoạt động trên cùng một máy chủ. Giải pháp hướng tới khai thác khả năng tùy biến và xử lý song song của FPGA để xây dựng nền tảng tăng tốc LLM, đặc biệt cho các tác vụ inference yêu cầu hiệu năng và băng thông dữ liệu cao.
Bản toàn văn lưu tại thư viện Đại học Bách khoa Hà Nội

Thông tin và tóm tắt ở trên lấy từ kho số mở của thư viện trường. Bản toàn văn do thư viện trường quản lý — có nơi cho đọc trực tuyến, có nơi cần tài khoản bạn đọc của trường.

Mở tại thư viện trường ↗
Dùng tài liệu tham khảo cho đúng
  • Đọc để hiểu cách người trước đặt câu hỏi, chọn phương pháp, trình bày số liệu — rồi tự làm với dữ liệu và bối cảnh của bạn.
  • Ý, số liệu, bảng biểu lấy từ tài liệu này phải trích dẫn (tác giả, năm, tên đề tài, cơ sở đào tạo).
  • Đề tài trùng tên vẫn làm được nếu khác đơn vị khảo sát, thời gian hoặc cách tiếp cận — nêu rõ điểm khác trong phần mở đầu.

Hướng dẫn chọn đề tài, cấu trúc và số liệu cho ngành này: Luận văn công nghệ thông tin · Hỏi đáp từng chương với người hướng dẫn số: Học Giả Số · Công cụ số: Luận Văn Số.

Đề tài cùng ngành

Tác giả muốn gỡ, sửa thông tin hoặc bổ sung bản toàn văn: gửi yêu cầu qua trang Liên hệ, kèm đường dẫn trang này.