Sự khác biệt giữa Chạy OpenVINO™ với Định dạng Mô hình IR và Định dạng Nguồn là gì

Không thể tìm thấy thông tin về sự khác biệt giữa chạy OpenVINO™ với định dạng mô hình IR và trực tiếp từ định dạng nguồn (ONNX*, Pytorch*).

• Chạy suy luận OpenVINO™ với định dạng mô hình IR mang lại kết quả tốt nhất có thể vì mô hình đã được chuyển đổi. Định dạng này cung cấp độ trễ suy luận đầu tiên thấp hơn và các tùy chọn để tối ưu hóa mô hình. Định dạng này được tối ưu hóa nhất cho suy luận OpenVINO™.

• Chạy suy luận trực tiếp từ định dạng nguồn, quá trình chuyển đổi mô hình diễn ra tự động và được xử lý bởi OpenVINO™. Phương pháp này thuận tiện nhưng có thể không mang lại hiệu suất hoặc độ ổn định tốt nhất. Nó cũng không cung cấp các tùy chọn tối ưu hóa.

Tham khảo trang Chuẩn bị Mô hình để biết thêm thông tin về các định dạng mô hình OpenVINO™ được hỗ trợ.