Bộ Intel® FPGA AI

Bộ FPGA AI cho phép các nhà thiết kế FPGA, kỹ sư học máy và nhà phát triển phần mềm tạo ra các nền tảng AI FPGA được tối ưu hóa một cách hiệu quả. Các tiện ích trong bộ phần mềm tăng tốc độ phát triển FPGA cho suy luận AI bằng cách sử dụng các khung công nghiệp quen thuộc và phổ biến như TensorFlow hoặc PyTorch và bộ công cụ OpenVINO, đồng thời tận dụng các quy trình phát triển FPGA mạnh mẽ và đã được chứng minh với Phần mềm Quartus Prime.

Đọc bộ sản phẩm FPGA AI: Hướng dẫn bắt đầu ›

Bộ Intel® FPGA AI

Luồng phát triển suy luận AI của FPGA

Quy trình phát triển kết hợp liền mạch quy trình làm việc phần cứng và phần mềm vào quy trình làm việc AI toàn diện chung. Các bước như sau:

1 Trình tối ưu hóa mô hình trong bộ dụng cụ OpenVINO tạo các tệp mạng biểu diễn trung gian (.xml) và các tệp weight và bias (.bin).

2 Trình biên dịch Intel FPGA AI Suite được sử dụng để:

  • Cung cấp số liệu hiệu suất hoặc diện tích ước tính cho một tệp cấu trúc nhất định hoặc tạo tệp cấu trúc được tối ưu hóa. (Kiến trúc đề cập đến các tham số IP suy luận như kích thước của mảng PE, độ chính xác, chức năng kích hoạt, độ rộng giao diện, kích thước cửa sổ, v.v)
  • Biên dịch các tệp mạng thành tệp .bin với các phân vùng mạng cho FPGA và CPU (hoặc cả hai) cùng với weight and bias.

3 Tệp .bin đã biên dịch được nhập bởi ứng dụng suy luận người dùng khi chạy.

  • Các giao diện lập trình ứng dụng thời gian chạy (API) bao gồm API công cụ suy luận (CPU phân vùng thời gian chạy và FPGA, suy luận lịch trình) và FPGA AI (bộ nhớ DDR, khối phần cứng FPGA).
  • Các thiết kế tham khảo chứng minh các hoạt động cơ bản khi nhập .bin và chạy suy luận trên FPGA với việc hỗ trợ CPU chủ (x86 và bộ xử lý Arm).

Lưu ý:

Thiết bị được hỗ trợ: Agilex™ 7 FPGA, Cyclone® 10 GX FPGA Arria® 10 FPGA

Các mạng, lớp và chức năng1 kích hoạt đã được thử nghiệm:

  • ResNet-50, MobileNet v1/v2/v3, YOLO v3, TinyYOLO v3, UNET, i3d
  • 2D Conv, 3D Conv, Được kết nối đầy đủ, Softmax, BatchNorm, EltWise Mult, Clamp
  • ReLU, PReLU

Kiến trúc cấp độ hệ thống

Intel FPGA AI Suite linh hoạt và có thể cấu hình cho nhiều trường hợp sử dụng cấp độ hệ thống. Các cách điển hình để kết hợp FPGA AI Suite IP vào một hệ thống được liệt kê trong Hình 1. Các trường hợp sử dụng trải rộng trên các ngành dọc khác nhau từ các nền tảng nhúng được tối ưu hóa từ các ứng dụng có CPU chủ (bộ xử lý Intel® Core™, bộ xử lý Arm) đến môi trường trung tâm dữ liệu với bộ xử lý Intel® Xeon® và các ứng dụng không có máy chủ (hoặc bộ xử lý mềm như bộ xử lý Nios® V).

Hình 1: Cấu trúc liên kết hệ thống Intel FPGA AI Suite điển hình

Giảm tải CPU

Bộ tăng tốc AI

Giảm tải CPU đa chức năng

Bộ tăng tốc AI + Chức năng phần cứng bổ sung

Xử lý Nhập/Nội tuyến + AI

Bộ tăng tốc AI + Nhập trực tiếp và truyền dữ liệu

FPGA SoC + AI nhúng

Bộ tăng tốc AI + Nhập trực tiếp và truyền dữ liệu + Chức năng phần cứng +

Bộ xử lý Arm hoặc Nios® V nhúng

Hiển thị thêm Hiện ít hơn

Tại sao FPGAs đặc biệt tốt để triển khai AI

Sách trắng này giới thiệu các trường hợp sử dụng mới nổi của suy luận AI dựa trên FPGA trong các ứng dụng AI biên và tùy chỉnh, cũng như các giải pháp phần mềm và phần cứng cho AI biên FPGA.

Đọc sách trắng

So sánh sản phẩm

Thông tin Sản phẩm và Hiệu năng

1

Liên hệ với Bộ phận Bán hàng của Intel để biết thêm thông tin về mạng và các chức năng không được liệt kê.