Các kỹ thuật tạo bản đồ nhiệt như lan truyền mức độ liên quan theo lớp hoặc Grad-CAM có thể được thực hiện bằng cách sử dụng OpenVINO™ không?
Bản đồ nhiệt có thể được sử dụng để hình dung quá trình ra quyết định của mạng lưới thần kinh.
Để tạo bản đồ nhiệt trong OpenVINO™, cần phải:
Truy cập bản đồ tính năng đầu ra của lớp tích chập mục tiêu và trọng số tương ứng.
| Lưu ý | Điều này có thể được thực hiện thông qua lệnh gọi hàm model.add_outputs() khi khởi tạo mạng trong API OpenVINO™ 2.0+ (thay thế CNNNetwork không được dùng nữa: addOutput()). |
Sau khi chạy suy luận, hãy tính tổng trọng số của trọng số bằng bản đồ địa vật để tạo Bản đồ kích hoạt lớp.
Để triển khai Grad-CAM, tính toán gradient của lớp đích đối với bản đồ đối tượng, sau đó nhân gradient với bản đồ đối tượng.
Áp dụng Kích hoạt ReLU để loại bỏ các giá trị âm và chuẩn hóa bản đồ nhiệt kết quả.
Thay đổi kích thước bản đồ nhiệt để phù hợp với kích thước hình ảnh đầu vào và phủ nó lên hình ảnh gốc để trực quan hóa.
Các bước bổ sung: