LuanVan.vnLuận Văn
Gửi thư

Thiết kế triển khai phần cứng tăng tốc tính toán mô hình Llama 3.2 1B trên nhiều FPGA - Khối truyền thông tin

Đồ án tốt nghiệp · Đại học · năm 2025 · đề tài tham khảo

Loại tài liệuĐồ án tốt nghiệp
Bậc họcĐại học
Tác giảNguyễn Trọng Trí Kiên
Người hướng dẫnNguyễn Đức Minh
Cơ sở đào tạoĐại học Bách khoa Hà Nội
Năm2025
NguồnThư viện số Đại học Bách khoa Hà Nội · trang gốc

Tóm tắt

Thiết kế và triển khai phần cứng tăng tốc suy luận mô hình ngôn ngữ lớn Llama 3.2 1B trên kiến trúc đa FPGA, tập trung vào khối truyền thông và đồng bộ dữ liệu giữa các thiết bị. Do hạn chế hiệu năng của GPU trong các tác vụ suy luận tuần tự của mô hình Transformer, giải pháp đề xuất triển khai kiến trúc tính toán chuyên dụng trên FPGA nhằm tối ưu hiệu quả xử lý toàn bộ pipeline inference của mô hình Llama. Hệ thống được xây dựng gồm nhiều khối xử lý song song có khả năng thực thi các phép toán đặc trưng của Transformer, kết hợp với bộ DMA để truyền dữ liệu tốc độ cao và bộ router để đồng bộ hóa giữa các khối tính toán. Kiến trúc được triển khai trên hai FPGA Xilinx Alveo U250, kết nối qua giao tiếp QSFP trong môi trường máy chủ, đảm bảo khả năng mở rộng và truyền thông tin hiệu quả giữa các nút xử lý. Kết quả thử nghiệm hệ thống đáp ứng tốt yêu cầu băng thông và độ trễ trong quá trình suy luận mô hình LLM.
Bản toàn văn lưu tại thư viện Đại học Bách khoa Hà Nội

Thông tin và tóm tắt ở trên lấy từ kho số mở của thư viện trường. Bản toàn văn do thư viện trường quản lý — có nơi cho đọc trực tuyến, có nơi cần tài khoản bạn đọc của trường.

Mở tại thư viện trường ↗
Dùng tài liệu tham khảo cho đúng
  • Đọc để hiểu cách người trước đặt câu hỏi, chọn phương pháp, trình bày số liệu — rồi tự làm với dữ liệu và bối cảnh của bạn.
  • Ý, số liệu, bảng biểu lấy từ tài liệu này phải trích dẫn (tác giả, năm, tên đề tài, cơ sở đào tạo).
  • Đề tài trùng tên vẫn làm được nếu khác đơn vị khảo sát, thời gian hoặc cách tiếp cận — nêu rõ điểm khác trong phần mở đầu.

Đề tài cùng ngành

Tác giả muốn gỡ, sửa thông tin hoặc bổ sung bản toàn văn: gửi yêu cầu qua trang Liên hệ, kèm đường dẫn trang này.