Intel® FPGA AI Suite

Tìm hiểu cách thức Intel® FPGA AI Suite thể thêm FPGA AI mới vào các hệ thống nhúng và trung tâm dữ liệu.

"Sự dễ dàng sử dụng của Intel® FPGA AI Suite và hệ Bản phân phối Intel® của bộ dụng cụ OpenVINO™ cho phép Stryhít* phát triển các ứng dụng tối ưu Intel® FPGA IP suy luận học sâu. IP suy luận đã được tích hợp thành công vào một trình điều Intel® FPGA sử dụng Intel® Quartus® Mềm Prime. Các thiết kế ví dụ được cung cấp với bộ công cụ này cho phép nhóm nhanh chóng đánh giá các thuật toán khác nhau cho các nguồn hình ảnh khác nhau. Intel® FPGA AI Suite và bộ công cụ Intel® Distribution OpenVINO cho phép các nhà khoa học dữ liệu và kỹ sư FPGA làm việc liền mạch với nhau để phát triển suy luận học sâu tối ưu hóa cho các ứng dụng y tế."

— Đội kỹ thuật Strysi

Tổng quan

Intel FPGAs cho phép thực tế, độ trễ thấp và suy luận học sâu công suất thấp kết hợp với các lợi thế sau:

I/O linh hoạt
Cấu hình lại
Dễ tích hợp vào các nền tảng tùy chỉnh
Tuổi thọ lâu dài

Intel FPGA AI Suite phát triển với tầm nhìn dễ sử dụng suy luận trí tuệ nhân tạo (AI) trên nền tảng Intel FPGAs. Bộ suite cho phép các FPGA thiết kế, kỹ sư máy học và nhà phát triển phần mềm tạo ra các nền FPGA trí tuệ nhân tạo (AI) tối ưu hóa một cách hiệu quả.

Các tiện ích trong Intel FPGA AI Suite tăng tốc độ phát triển FPGA để suy luận AI bằng cách sử dụng các khung công nghiệp quen thuộc và phổ biến như TensorFlow* hoặc PyTorch* và bộ công cụ OpenVINO, đồng thời tận dụng các luồng phát triển FPGA mạnh mẽ và đã được kiểm chứng với Phần mềm Intel Quartus Prime.

Quy trình công cụ Intel FPGA AI Suite động với bộ công cụ OpenVINO tài nguyên, một dự án nguồn mở để tối ưu hóa suy luận trên nhiều kiến trúc phần cứng khác nhau. Bộ công cụ OpenVINO lấy các mô hình Học sâu từ tất cả các khung Học sâu chính (như TensorFlow, PyTorch,Akias*) và tối ưu hóa chúng để suy luận trên nhiều kiến trúc phần cứng, bao gồm nhiều CPU, CPU +GPU và FPGAs.

Tìm hiểu cách thức Intel FPGA AI Suite thể thêm FPGA AI mới vào các hệ thống nhúng và trung tâm dữ liệu.

Liên hệ với bộ phận Bán hàng của Intel để biết giá cả và tính khả dụng ›

Tính năng chính

Intel® Agilex™ chuỗi M FPGAs có thể đạt được hiệu suất lý thuyết tối đa là 38 INT8 TOPS hoặc 3.679 khung hình Resnet-50 mỗi giây với mức sử dụng 90% FPGA.

Hỗ trợ tích hợp với IP tùy chỉnh như ADC/DAC, video và Ethernet để đạt được diện tích nhỏ nhất và độ trễ thấp nhất.

Giảm thiểu TCO với suy luận AI có thể mở rộng, tùy chỉnh, chi tiết cao trên nhiều loại hiệu suất và kích thước lô.

Tạo và thêm IP suy luận AI vào các thiết kế hiện tại hoặc FPGA hành với Intel Quartus Prime Software hoặc Platform Designer.

Sử dụng giao diện người dùng TRÍ tuệ nhân tạo (AI) yêu thích của bạn, chẳng hạn như TensorFlow, Caffe, Pytorch, MXNet, Ngoài Ra, Và ONNX.

OpenVINO bộ công cụ tối ưu hóa hiệu suất và sức mạnh trong khi giảm thiểu kích thước logic và bộ nhớ.

Hiển thị thêm Hiện ít hơn

FPGA dòng phát triển suy luận AI

Quy trình phát triển suy luận AI được hiển thị trong Hình 1. Luồng kết hợp liền mạch dòng công việc phần cứng và phần mềm vào một dòng công việc AI toàn diện chung. Các bước như sau:

1. Trình tối ưu hóa mô hình trong bộ công cụ OpenVINO tạo các tệp mạng đại diện trung gian (.xml) và khối lượng và tệp thiên vị (.bin).

2. Trình biên Intel FPGA AI Suite mềm được sử dụng để:

Cung cấp các chỉ số diện tích hoặc hiệu suất ước tính cho một tệp kiến trúc cụ thể hoặc tạo tệp kiến trúc được tối ưu hóa. (Kiến trúc đề cập đến các tham số IP suy luận như kích thước của mảng PE, độ chính xác, chức năng kích hoạt, độ rộng giao diện, kích thước cửa sổ, v.v.)
Biên dịch các tệp mạng thành tệp .bin với phân vùng mạng cho FPGA CPU (hoặc cả hai) cùng với khối lượng và sự thiên vị.

3. Tệp .bin được biên dịch là do ứng dụng suy luận của người dùng thực hiện trong thời gian chạy.

Giao diện lập trình ứng dụng thời gian chạy (API) bao gồm API Công cụ suy luận (CPU phân vùng thời gian chạy và FPGA, suy luận lịch trình) và FPGA AI (bộ nhớ DDR, FPGA khối phần cứng).
Thiết kế tham chiếu chứng minh các hoạt động cơ bản của việc nhập .bin và chạy suy luận trên FPGA với hỗ trợ CPU máy chủ (bộ xử lý x86 và Arm*).

Hình 1: Luồng Intel FPGA AI Suite phát triển mới

Ghi chú:

Các thiết bị được hỗ trợ: Intel® Agilex™ FPGA, Intel® Cyclone® xử lý FPGA 10 GX, Intel® Arria® 10 FPGA

Các mạng đã được kiểm tra và các chức năng kích hoạt¹:

ResNet-50, MobileNet v1/v2/v3, YOLO v3, TinyYOLO v3, UNET
ReLU, 2D Conv, BatchNorm, EltWise Mult, Kết nối đầy đủ, Kẹp, pReLU, SoftMax

Kiến trúc cấp hệ thống

Intel FPGA AI Suite linh hoạt và có thể cấu hình cho nhiều trường hợp sử dụng cấp hệ thống. Các cách điển hình để kết hợp FPGA IP Bộ AI vào một hệ thống được liệt kê trong Hình 2. Các trường hợp sử dụng trải rộng các ngành dọc khác nhau từ các nền tảng nhúng được tối ưu hóa, từ các ứng dụng với CPU máy chủ (bộ xử lý Intel® Core™, bộ xử lý Arm) đến môi trường trung tâm dữ liệu với bộ xử lý Intel® Xeon® và cả các ứng dụng ít máy chủ (hoặc bộ xử lý mềm như bộ xử lý Nios® V).

Hình 2: Các cấu trúc liên Intel FPGA AI Suite điển hình

Giảm tải CPU

Bộ gia tốc AI

Giảm tải CPU đa chức năng

Bộ tăng tốc AI + Chức năng phần cứng bổ sung

Nhập / Xử lý nội tuyến + AI

Bộ tăng tốc AI + Nhập trực tiếp và Truyền dữ liệu

SoC nhúng FPGA + AI

Bộ tăng tốc AI + Nhập trực tiếp và Truyền dữ liệu + Chức năng phần cứng +

Bộ xử lý Embedded Arm Nios® II Nios V

Hiển thị thêm Hiện ít hơn

Video

Tổng quan về các Intel FPGA AI Suite

Xem video này để làm quen với quy trình thiết kế cho các Intel FPGA AI Suite.

Video demo cài đặt Intel® FPGA AI Suite hành

Cài đặt Intel FPGA AI Suite dễ dàng, xem video này để xem bản demo cài đặt.

video demo biên dịch Intel® FPGA AI Suite biên dịch

Xem bản mô tả nhanh về Intel FPGA AI Suite biên dịch mô hình được đào tạo trước RESNET-50 và kết quả suy luận đầu ra.