Automotive-NPU-Benchmarking: INT8, FP16 und Sparsity fuer Transformer-Modelle

ADAS-Stacks sind von 2D-CNNs zu BEV-Transformern gewechselt. Dies verlangt Pruefungen jenseits von Marketing-TOPS unter realer Bandbreite.

Peak-TOPS vs. effektive Auslastung

Waehrend Chips mit 200 Peak-TOPS werben, lassen Layer-Normalisierungen Rechenkerne oft auf DRAM warten, was die reale Auslastung ohne Compiler-Fusion unter 35% drueckt.

Quantisierungs-Genauigkeitsverlust bei 3D-Objekterkennung

Die Konvertierung zu INT8 erfordert Kalibrierung. Ohne Quantization-Aware Training (QAT) kann die Abstandsschaetzung fuer Fussgaenger um bis zu 6% degradieren.

Domain-Portfolio entdecken