Trình cắm không đồng nhất với phần cứng Thanh Tính toán Nơ-ron Intel® 2

Plugin không đồng nhất (HETERO) cho phép suy luận tính toán trên một mạng bằng cách sử dụng nhiều thiết bị. Bạn có thể muốn thực thi các mạng ở chế độ không đồng nhất để:

• Sử dụng sức mạnh của bộ tăng tốc, bao gồm tính toán các bộ phận nặng nhất của mạng trên bộ tăng tốc và thực hiện các lớp không được hỗ trợ trên các thiết bị dự phòng như CPU.
• Sử dụng tất cả các phần cứng có sẵn hiệu quả hơn trong một lần suy luận.

Để sử dụng Trình cắm không đồng nhất và chạy suy luận trên trình điều khiển Thanh Tính toán Nơ-ron Intel® 2 sử dụng ứng dụng Điểm chuẩn của OpenVINO™, hãy làm theo các bước dưới đây:

1. Xây dựng mẫu C++ bằng cách chạy buildsamples.sh mềm (cho Linux) hoặc build_samples_msvc.bat (dành cho Windows) được tìm thấy trong thư inference_engine/samples tin.
2. Sử dụng benchmark_app để kiểm tra và định cấu hình Hetero Plugin với các thiết bị mà bạn muốn sử dụng. Ví dụ: việc chạy -d HETERO:GPU,CPU ưu tiên cho GPU, trong khi CPU sẽ là một thiết bị dự phòng.

Tìm thêm thông tin về Trình cắm không đồng nhất và Bộ công cụ OpenVINO mềm.