Thiết kế triển khai phần cứng tăng tốc tính toán mô hình Llama 3.2 1B trên nhiều FPGA - Khối xử lý ma trận
Đồ án tốt nghiệp · Đại học · năm 2025 · đề tài tham khảo
| Loại tài liệu | Đồ án tốt nghiệp |
|---|---|
| Bậc học | Đại học |
| Ngành | Xã hội, ngôn ngữ, y dược |
| Tác giả | Nguyễn Uy Vũ |
| Người hướng dẫn | Hoàng Phương Chi; Nguyễn Thành Chuyên |
| Cơ sở đào tạo | Đại học Bách khoa Hà Nội |
| Năm | 2025 |
| Nguồn | Thư viện số Đại học Bách khoa Hà Nội · trang gốc |
Tóm tắt
Thiết kế kiến trúc tăng tốc suy luận cho mô hình ngôn ngữ lớn (Large Language Model – LLM) dựa trên nền tảng FPGA nhằm khắc phục những hạn chế của GPU đối với các tác vụ tuần tự trong quá trình sinh văn bản. Xây dựng một kiến trúc phần cứng có khả năng thực hiện toàn bộ quá trình suy luận cho mô hình Llama, từ xử lý đầu vào đến sinh kết quả đầu ra. Kiến trúc được thiết kế gồm nhiều bộ xử lý chuyên dụng có khả năng thực hiện các phép toán cần thiết của mô hình Transformer, kết hợp với bộ điều khiển truy cập bộ nhớ trực tiếp (DMA) để tối ưu truyền dữ liệu tốc độ cao và bộ định tuyến (Router) phục vụ đồng bộ hóa dữ liệu giữa các khối xử lý. Hệ thống được triển khai trên hai FPGA Xilinx Alveo U250 kết nối với nhau thông qua giao tiếp QSFP nhằm đáp ứng yêu cầu tính toán và truyền dữ liệu của mô hình Llama. Nghiên cứu góp phần mở rộng khả năng ứng dụng FPGA trong tăng tốc suy luận LLM, hướng tới các hệ thống AI hiệu năng cao, tiết kiệm năng lượng và có khả năng tùy biến kiến trúc phần cứng.
Bản toàn văn lưu tại thư viện Đại học Bách khoa Hà Nội
Thông tin và tóm tắt ở trên lấy từ kho số mở của thư viện trường. Bản toàn văn do thư viện trường quản lý — có nơi cho đọc trực tuyến, có nơi cần tài khoản bạn đọc của trường.
Mở tại thư viện trường ↗
Dùng tài liệu tham khảo cho đúng
- Đọc để hiểu cách người trước đặt câu hỏi, chọn phương pháp, trình bày số liệu — rồi tự làm với dữ liệu và bối cảnh của bạn.
- Ý, số liệu, bảng biểu lấy từ tài liệu này phải trích dẫn (tác giả, năm, tên đề tài, cơ sở đào tạo).
- Đề tài trùng tên vẫn làm được nếu khác đơn vị khảo sát, thời gian hoặc cách tiếp cận — nêu rõ điểm khác trong phần mở đầu.
Hướng dẫn chọn đề tài, cấu trúc và số liệu cho ngành này: Luận văn xã hội, ngôn ngữ, y dược · Hỏi đáp từng chương với người hướng dẫn số: Học Giả Số · Công cụ số: Luận Văn Số.
Đề tài cùng ngành
- Triển khai mô hình TSMAE bằng ngôn ngữ mô tả phần cứng (Verilog)
- Nghiên cứu thiết kế tự động hóa một số công đoạn cho hệ thống tiệt trùng quần áo y tế trong bệnh viện
- Triển khai giải pháp dự báo nguy cơ mắc bệnh tim mạch trên nền tảng web
- Thiết kế xe lăn hỗ trợ bệnh nhân đi lại khó khăn
- Nghiên cứu, thiết kế và chế tạo máy khuấy từ ứng dụng tại bệnh viện TWQĐ 108
- Dịch máy Anh-Việt cho miền văn bản y tế
- Hệ thống quản lý và cung cấp dịch vụ tư vấn giữa bệnh nhân mạn tính và bác sĩ
- Thiết kế hệ thống ĐHKK trung tâm cho Bệnh viện đa khoa Đồng Tháp
Tác giả muốn gỡ, sửa thông tin hoặc bổ sung bản toàn văn: gửi yêu cầu qua trang Liên hệ, kèm đường dẫn trang này.