Technology News
NVIDIA giới thiệu Global Performance Tuner trong TensorRT 11.1 nhằm tối ưu hóa hiệu suất
Theo công bố của NVIDIA Developer. Tính năng Global Performance Tuner mới mở rộng không gian giải pháp và xác thực từng ứng dụng theo độ chính xác và hiệu suất tổng thể.
ĐÃ XÁC MINHĐã xác minh · 1 nguồn
Ảnh minh họa do TigerIQ tự tạo từ chủ đề bài viết.
ĐIỂM CHÍNH
- • Global Performance Tuner được phát hành trong TensorRT 11.1 với các tuyến xây dựng tùy chỉnh.
- • NVIDIA TensorRT xây dựng các công cụ suy luận thông qua các quyết định lập lịch phụ thuộc lẫn nhau.
- • Khung toán học mô hình hóa quá trình biên dịch như một thuật toán xây dựng và tìm kiếm.
Giới thiệu Global Performance Tuner
The Global Performance Tuner, released in TensorRT 11.1 , introduces customizable build routes that expand the solution space and validate each candidate against end-to-end accuracy and performance.
Quá trình biên dịch và lập lịch
NVIDIA TensorRT builds inference engines by making interdependent scheduling decisions across graph transformations, fusion, implementation selection, memory placement, and quantization.
NGUỒN & PHƯƠNG PHÁP
- 1. developer.nvidia.comMở nguồn