Bộ Intel® FPGA AI
Tìm hiểu cách Intel® FPGA AI Suite có thể thêm FPGA AI vào các hệ thống và trung tâm dữ liệu nhúng.
Tổng quan
FPGA Intel cho phép suy luận học sâu thời gian thực, độ trễ thấp và năng lượng thấp kết hợp với các ưu điểm sau:
- I/O linh hoạt
- Cấu hình lại
- Dễ tích hợp vào các nền tảng tùy chỉnh
- Tuổi thọ dài
Intel FPGA AI Suite được phát triển với tầm nhìn về khả năng dễ sử dụng trí tuệ nhân tạo (AI) suy luận với FPGA Intel. Bộ phần mềm này cho phép các nhà thiết kế FPGA, kỹ sư học máy và nhà phát triển phần mềm tạo các nền tảng FPGA AI được tối ưu hóa một cách hiệu quả.
Các tiện ích trong Intel FPGA AI Suite tăng tốc độ phát triển FPGA cho suy luận AI bằng cách sử dụng các khung tiêu chuẩn ngành quen thuộc và phổ biến như TensorFlow hoặc PyTorch và bộ dụng cụ OpenVINO, đồng thời cũng tận dụng các quy trình phát triển FPGA mạnh mẽ và đã được chứng minh với Phần mềm Intel Quartus Prime.
Luồng công cụ Intel FPGA AI Suite hoạt động với bộ dụng cụ OpenVINO, một dự án nguồn mở để tối ưu hóa suy luận trên nhiều kiến trúc phần cứng khác nhau. Bộ dụng cụ OpenVINO sử dụng các mô hình Học sâu từ tất cả các khung Học sâu chính (như TensorFlow, PyTorch, Keras) và tối ưu hóa chúng để suy luận trên nhiều kiến trúc phần cứng khác nhau, bao gồm đa dạng các CPU, CPU+GPU và FPGA.
Tìm hiểu cách Intel FPGA AI Suite có thể thêm FPGA AI vào các hệ thống và trung tâm dữ liệu nhúng. Liên hệ với Bộ phận Bán hàng Intel để biết giá cả và thời gian có hàng ›
Bắt Đầu Ngay Hôm Nay
Tại sao FPGA đặc biệt tốt để triển khai AI
Đọc về cách FPGA Intel® và SoC với Intel® FPGA AI Suite và Bộ dụng cụ OpenVINO để điều khiển các ứng dụng AI/máy học nhúng/biên trong sách trắng này.
Đọc sách trắng
Lời chứng thực của khách hàng
"Tính dễ sử dụng của Intel® FPGA AI Suite và Bản phân phối Intel® của bộ dụng cụ OpenVINO™ đã cho phép Stryker phát triển Intel® FPGA IP được tối ưu hóa cho suy luận học sâu. IP suy luận đã được tích hợp thành công vào FPGA Intel® bằng Phần mềm Intel® Quartus® Prime. Các thiết kế mẫu được cung cấp kèm theo bộ phần mềm này đã cho phép nhóm đánh giá nhanh các thuật toán khác nhau cho các nguồn hình ảnh khác nhau. Intel® FPGA AI Suite và Bản phân phối Intel® của bộ dụng cụ OpenVINO™ cho phép các nhà khoa học dữ liệu và kỹ sư FPGA làm việc liền mạch với nhau để phát triển khả năng suy luận học sâu được tối ưu hóa cho các ứng dụng y tế." — Nhóm Kỹ thuật Stryker
Tính năng chính
Hiệu năng cao
FPGA Intel Agilex® 7 M-Series có thể đạt được hiệu năng lý thuyết tối đa 38 INT8 TOPS hoặc 3.679 khung hình Resnet-50 mỗi giây với mức sử dụng FPGA 90%.
Tích hợp hệ thống dễ dàng
Hỗ trợ tích hợp với IP tùy chỉnh như ADCs/DAC, video và Ethernet với dấu ấn nhỏ nhất và độ trễ thấp nhất.
Tổng chi phí sở hữu thấp
Giảm thiểu TCO với suy luận AI có khả năng mở rộng, có thể tùy chỉnh, độ chi tiết cao trên một loạt các hiệu năng và kích thước mẫu.
Quy trình đơn giản và tiêu chuẩn
Tạo và thêm IP suy luận AI vào các thiết kế FPGA hiện tại hoặc mới với Phần mềm Intel Quartus Prime hoặc Nhà thiết kế Nền tảng.
Hỗ trợ AI Front End
Sử dụng giao diện AI yêu thích của bạn như TensorFlow, Caffe, Pytorch, MXNet, Keras và ONNX.
Tối ưu hóa OpenVINO
Bộ dụng cụ OpenVINO tối ưu hóa hiệu năng và sức mạnh trong khi giảm thiểu logic và bộ nhớ.
Luồng phát triển suy luận AI của FPGA
Luồng phát triển suy luận AI được thể hiện trong Hình 1. Luồng này kết hợp liền mạch quy trình làm việc phần cứng và phần mềm thành quy trình làm việc AI chung từ đầu đến cuối. Các bước như sau:
1. Trình tối ưu hóa mô hình trong bộ dụng cụ OpenVINO tạo các tệp mạng biểu diễn trung gian (.xml) và các tệp weight và bias (.bin).
2. Trình biên dịch Intel FPGA AI Suite được sử dụng để:
- Cung cấp số liệu hiệu suất hoặc diện tích ước tính cho một tệp cấu trúc nhất định hoặc tạo tệp cấu trúc được tối ưu hóa. (Kiến trúc đề cập đến các tham số IP suy luận như kích thước của mảng PE, độ chính xác, chức năng kích hoạt, độ rộng giao diện, kích thước cửa sổ, v.v)
- Biên dịch các tệp mạng thành tệp .bin với các phân vùng mạng cho FPGA và CPU (hoặc cả hai) cùng với weight and bias.
3. Tệp .bin đã biên dịch được nhập bởi ứng dụng suy luận người dùng khi chạy.
- Các giao diện lập trình ứng dụng thời gian chạy (API) bao gồm API công cụ suy luận (CPU phân vùng thời gian chạy và FPGA, suy luận lịch trình) và FPGA AI (bộ nhớ DDR, khối phần cứng FPGA).
- Các thiết kế tham khảo chứng minh các hoạt động cơ bản khi nhập .bin và chạy suy luận trên FPGA với việc hỗ trợ CPU chủ (x86 và bộ xử lý Arm).
Hình 1: Luồng phát triển Intel FPGA AI Suite
Lưu ý:
Các thiết bị được hỗ trợ: FPGA Intel Agilex® 7, FPGA Intel® Cyclone® 10 GX, FPGA Intel® Arria® 10
Mạng được thử nghiệm, lớp và chức năng kích hoạt1:
- ResNet-50, MobileNet v1/v2/v3, YOLO v3, TinyYOLO v3, UNET, i3d
- 2D Conv, 3D Conv, Được kết nối đầy đủ, Softmax, BatchNorm, EltWise Mult, Clamp
- ReLU, PReLU
Kiến trúc cấp độ hệ thống
Intel FPGA AI Suite linh hoạt và có thể cấu hình cho nhiều trường hợp sử dụng cấp độ hệ thống. Các cách điển hình để kết hợp FPGA AI Suite IP vào hệ thống được liệt kê trong Hình 2. Các trường hợp sử dụng trải rộng trên các ngành dọc khác nhau từ các nền tảng nhúng được tối ưu hóa từ các ứng dụng có CPU chủ (bộ xử lý Intel® Core™, bộ xử lý Arm) đến môi trường trung tâm dữ liệu với bộ xử lý Intel® Xeon® và các ứng dụng không có máy chủ (hoặc bộ xử lý mềm như bộ xử lý Nios® V).
Hình 2: Cấu trúc liên kết hệ thống Intel FPGA AI Suite điển hình
Giảm tải CPU
Bộ tăng tốc AI
Giảm tải CPU đa chức năng
Bộ tăng tốc AI + Chức năng phần cứng bổ sung
Xử lý Nhập/Nội tuyến + AI
Bộ tăng tốc AI + Nhập trực tiếp và truyền dữ liệu
FPGA SoC + AI nhúng
Bộ tăng tốc AI + Nhập trực tiếp và truyền dữ liệu + Chức năng phần cứng +
Bộ xử lý nhúng hoặc Nios® II hoặc Nios V
Video demo
Tổng quan về Intel FPGA AI Suite
Xem video này để làm quen với quy trình thiết kế dành cho Intel FPGA AI Suite.
Video mô tả cài đặt Intel® FPGA AI Suite
Việc cài đặt Intel FPGA AI Suite thật dễ dàng, hãy xem video này để xem bản mô tả cài đặt.
Video mô tả Biên dịch Intel® FPGA AI Suite
Xem bản mô tả nhanh về Intel FPGA AI Suite biên dịch mô hình được đào tạo trước RESNET-50 và kết quả suy luận đầu ra.
Video mô tả cài đặt bo mạch FPGA Intel Agilex® và giới thiệu bo mạch
Hướng dẫn nhanh này sẽ hướng dẫn bạn cách dễ dàng sử dụng và lập trình FPGA Intel Agilex® 7 để sử dụng FPGA Intel AI Suite.
Ví dụ về thiết kế PCIe Intel® FPGA AI Suite
Video này giới thiệu một số khả năng của Intel FPGA AI Suite.