⚙️ TensorRT Precision & Optimization Configurator

100% Client-Side

Precisión Objetivo FP16 (Tensor Cores)

Rango de Batch 1 ➔ 8 ➔ 32

GPU Workspace 2048 MiB

Aceleración Est. ~2.8x (vs FP32)

Ahorro Memoria ~50%

⚙️ Parámetros del Motor TensorRT

Presets:

Nombre o Ruta del Modelo ONNX

Precisión y Tipos de Datos (Quantization)

Perfiles de Formas Dinámicas (Dynamic Shapes)

--minShapes (Mínimo)

--optShapes (Óptimo)

--maxShapes (Máximo)

Workspace GPU (MiB)

Dispositivo GPU (ID)

Nombre Archivo Motor (.engine)

# trtexec command

# Python builder

// C++ Inference

Modo / Precisión	Tensor Cores	Aceleración Teórica	Uso VRAM Pesos	Pérdida de Precisión
FP32 (Single)	Inactivo / Básico	1.0x (Referencia)	100% (Base)	0.00% (Línea Base)
FP16 (Half) ⚡	Activo (FP16 TC)	~2.5x a 3.2x	~50% (-50%)	< 0.1% mAP
INT8 (Quantized) 🚀	Activo (INT8 TC)	~4.0x a 6.0x	~25% (-75%)	< 0.5% (Con calibrador)