Benchmark di NPU automotive: INT8, FP16 e sparsità per modelli Transformer

L'ADAS è passato dalle CNN 2D ai Transformer BEV multicamera. Questa evoluzione richiede verifiche pratiche oltre i TOPS dichiarati dai produttori.

TOPS di picco contro utilizzo effettivo

Sebbene un chip vanti 200 TOPS, le normalizzazioni dei layer bloccano la NPU in attesa dei dati DRAM, scendendo sotto il 35% di utilizzo effettivo.

Perdita di precisione della quantizzazione nel rilevamento 3D

La conversione a INT8 richiede calibrazione con scenari reali. Senza Quantization-Aware Training (QAT), la stima della distanza dei pedoni può perdere fino al 6%.

Esplora il portafoglio di domini