Banc d'essai des NPUs automobiles : INT8, FP16 et sparsité pour les modèles Transformer

L'ADAS est passé des CNN 2D aux architectures Vision Transformer en vue du dessus (BEV). Ce tournant impose de tester la bande passante réelle au-delà des TOPS annoncés.

TOPS crête vs utilisation effective

Bien qu'un composant affiche 200 TOPS crête, la normalisation de couches bloque souvent le NPU en attente de la DRAM, tombant sous 35 % d'utilisation effective.

Perte de précision par quantification sur la détection d'objets 3D

Convertir les réseaux en INT8 exige une calibration précise. Sans Quantization-Aware Training (QAT), l'estimation de distance sur les piétons éloignés peut perdre 6 % de précision.

Explorer le portefeuille de domaines